OpenAI丨CEO認與美戰爭部協議倉促草率 商修訂條款

人工智能(AI)公司OpenAI剛於日前與美國戰爭部(Department of War)達成協議，將在其機密網絡中部署該公司的模型。時隔3日，行政總裁阿爾特曼(Sam Altman)承認「做錯」，表示達成有關協議倉促。他指一直與當局協議，將計劃增加及補充條款，以明確該公司的原則。

由於同為AI企業的Anthropic因抗衡美國戰爭部而遭到打壓，OpenAI被指撬牆腳兼火速與美國戰爭部達成協議，事件觸發OpenAI用戶反感，即時發起抵制運動，短時間內據報已有70萬人取消訂閱、甚至卸載OpenAI聊天機械人ChatGPT，轉投Anthropic旗下Claude。

阿爾特曼:「我做錯了」

阿爾特曼在社交平台發文稱，「我做錯了，不應急於發布消息」，坦言問題非常複雜，需要清晰的溝通，當時確實想緩和局勢，避免更糟糕結果，「事情看起來只是機會主義和草率行事」。他又說，這是一次很好學習經歷，因未來將面臨更重要的決策。

設定三條主要紅線

阿爾特曼亦明確設定三條主要紅線，第一，禁止將OpenAI技術用於大規模國內監控；第二，禁止將用於控制自主武器系統；第三，禁止用於高風險的自動化決策(例如社會信用系統)。為了盡可能清楚地闡明保障原則，在協議中添加補充條款，該公司工具不會被用於對美國公民進行國內監控，包括透過取得或使用商業手段獲得的個人或可識別資訊。當局也重申，其服務不會被美國戰爭部下屬的情報機構，如國家安全局(NSA)使用，任何向這些機構提供的服務都需要另行簽訂協議。

保護美國公民自由極為重要

新條款適用法律包括美國憲法第四修正案、1947年《國家安全法》、1978年《外國情報監視法》(FISA)，AI系統不得被故意用於對美國公民及國民進行國內監控。為避免誤解，國防部理解此限制條款禁止故意追蹤、監視或監控美國公民或國民，包括透過採購或使用商業取得的個人或可識別身份資訊。阿爾特曼強調，保護美國公民自由極為重要，這一點受到極大關注，因此特別希望強調這點。