ChatGPT回应生物武器相关查询，MIT警告AI恐怖主义风险

据《华尔街日报》报道，ChatGPT回应了数百人关于生物武器的查询。目前没有联邦法律要求OpenAI向当局报告此类情况。这些查询的意图尚不明确。据称，这种情况是在OpenAI去年升级ChatGPT后开始出现的。其他公司也面临同样的问题。用户向Anthropic的Claude和谷歌的类似产品提出了类似的问题。 麻省理工学院（MIT）的研究人员警告称，人工智能（AI）可能被滥用于制造化学武器和其他危险物质，这凸显了AI技术带来的恐怖主义风险。研究人员指出，AI系统能够生成详细的化学配方和生物制剂的制备方法，这可能被恶意行为者利用。 MIT的研究团队呼吁加强对AI技术的监管，并建议开发更强大的安全机制来防止AI被滥用于有害目的。他们强调，虽然AI有潜力带来巨大的社会效益，但也伴随着严重的风险，需要认真对待。