美國人工智能初創公司Anthropic稱其阻止黑客利用Claude AI進行網絡犯罪

8月27日，美國人工智能初創公司Anthropic表示，該公司發現有黑客試圖利用其Claude AI系統編寫網絡釣魚郵件、生成惡意代碼和規避安全過濾器。Anthropic稱，其內部系統已阻止了上述行爲，並正在將其作爲案例研究分享，以幫助其他人瞭解風險。