xAI和Grok涉色情內容 加州檢察總長展開調查

美國加州司法部周三宣布，檢察總長邦塔(Rob Bonta)正在對富商馬斯克(Elon Musk)旗下社交媒體xAI、和人工智能聊天機械人Grok啟動調查，調查與近期歐洲出現的色情內容有關。

邦塔指出，最近數周，大量報道詳細描述了xAI製作並發布未經同意的露骨性內容，情況令人感到震驚，邦塔敦促xAI立即採取行動，確保同類事件不再發生。加州州長紐瑟姆(Gavin Newsom)公開支持邦塔對這家科技巨頭的調查。

由xAI開發的Grok，平台被指未經女性同意生成大量性暗示內容，引發公眾廣泛譴責，事件自去年年底以來持續發酵，多國政府已啟動相關調查。

隨着大模型快速發展，利用人工智能產生深度偽造內容並在網路上傳播的案例時有發生，凸顯人工智能技術帶來的倫理風險。