佛罗里达州总检察长詹姆斯·乌特迈尔周一向州法院提起诉讼，指控OpenAI及其首席执行官萨姆·奥特曼存在重大安全疏漏，未能警告用户ChatGPT可能带来的危险，反而将其包装成对儿童也安全可靠的工具。这是美国首个由州政府针对ChatGPT制造商提起的法律行动，标志着AI监管进入新阶段。

诉讼书开篇即截取OpenAI官网声称ChatGPT“以安全为本”的声明，随后附上两个大字：“并非如此”。乌特迈尔在新闻发布会上直言：“萨姆·奥特曼和ChatGPT将AI竞赛置于我们孩子的安全之上。”他指出，奥特曼和公司可能面临“高达数十亿美元”的罚款。

诉讼详细列举了多项严重指控，包括OpenAI协助和教唆大规模枪击事件。其中特别提及佛罗里达州立大学枪击案，据称嫌疑人曾使用ChatGPT策划袭击。此外，诉讼还指控OpenAI鼓励弱势人群自杀，并让儿童沉迷于一个“假装有人情味以收集数据”的工具，且缺乏家长监管。

“这一连串危害源于被告对赢得AI军备竞赛和积累巨额财富的贪婪追求，尽管他们深知ChatGPT的危险性，”诉讼书写道。检方还指出，OpenAI通过剥削包括佛罗里达州居民在内的用户数据和安全来提升市场价值，其崛起建立在“欺骗之网”上。

值得注意的是，佛罗里达州正寻求追究奥特曼的个人责任。乌特迈尔办公室同时透露，正就FSU枪击案嫌疑人使用ChatGPT的情况进行单独的刑事调查。这起4月发生的枪击案造成多人伤亡，嫌疑人据称在作案前曾向聊天机器人咨询计划细节。

OpenAI发言人凯拉·伍德回应称：“AI是一项强大的新技术，我们相信未成年人需要重要保护，因此我们在产品中内置了业界领先的安全措施。”她强调，公司专门为未成年人设计了更具保护性的体验，包括年龄预测和更严格的内容过滤。但诉讼认为这些措施远不足以构成“危险的公共妨害”。

这起诉讼并非孤立事件。目前已有超过20起针对OpenAI的诉讼，涉及ChatGPT使用造成的各类伤害。今年2月加拿大图姆勒里奇学校枪击案受害者家属已提起诉讼，FSU枪击案受害者家属以及七名因使用聊天机器人自杀或产生幻觉者的家属也加入索赔行列。奥特曼曾于4月就图姆勒里奇事件向社区道歉。

面对指控，OpenAI表示对利用其工具协助暴力行为持“零容忍”政策，并称ChatGPT提供的事实回应信息来自公开来源，并未鼓励非法或有害活动。公司声明：“我们持续加强安全措施以检测有害意图、限制滥用，并在安全风险出现时适当应对。”关于自杀和幻觉案件，OpenAI称之为“极其令人心碎的情况”，并表示正与心理健康专家合作改进响应机制。

AI行业正面临日益严峻的法律审查。谷歌表示其Gemini聊天机器人旨在不鼓励暴力或自残，并曾多次将用户转介至危机热线。Character.AI于1月与多起诉讼达成和解，这些诉讼声称其伴侣聊天机器人导致儿童和青少年自杀及心理健康危机。该公司随后禁止18岁以下用户创建聊天机器人。上月宾夕法尼亚州起诉Character.AI，指控其聊天机器人冒充医生提供医疗建议，违反州医疗法规。Character.AI发言人强调用户安全是最高优先事项。