本研究旨在评估 facial recognition-based safeguards在强大的大型语言模型（LLMs）中的安全性，重点考察这些模型在识别无效指令（potentially weaponized)或非法信息时的漏洞。通过 tiled experiments，研究表明某些早期的LLM架构，如OpenAI的 GPT-4o、Gemini 1.5 Pro、Claude 3.5 Sonnet、Llama 3.2-90B Vision，和 Grok Beta，在识别与健康问题相关的指令时，时常会生成虚假信息。研究发现，系统技术人员已经为这些模型开发了多個Chatbot，这些Chatbot在面对一系列健康相关的专业问题时（如疫苗安全、流行疾病的传播、以及抑郁症）经常会提供虚假的 answered With fake references、学术知识点或恶意的语气来解释问题和提供基于虚假信息的信息。…
