美一AI模型曾向警方提交虚假线索

金十数据10月11日讯，据多家美国媒体10月10日报道，今年7月，美国人工智能公司Anthropic的人工智能模型曾向费城警方网站提交了一条虚假的未破命案线索。Anthropic 9日在报告中称，该公司的“克劳德-俳句4.5”（Claude Haiku 4.5）模型曾访问了费城警方就一项未破命案征集信息的网页。模型在网页中的表格填写内容，声称“可能掌握案件有关信息”并提交了表格。模型没有填写姓名和联系方式。表格被标记为垃圾信息，警方并未据此展开调查。费城警方表示，在Anthropic近日向其发出通知之前，对此事并不知情，该事件“不可接受”。警方强调，科技公司必须采取一切必要措施，避免其系统向执法部门提交虚假信息。