AI丨聯合國報告:AI快速發展益處與風險並存

40名頂尖科學家和專家在聯合國一個獨立科學小組發布的首份人工智能(AI)報告中表示，AI的快速發展為世界各國和人民帶來了巨大的潛在益處，但也伴隨着重大風險。

聯合國首屆人工智能治理問題全球對話將於7月6日至7日在日內瓦舉行，屆時這份報告將提交各國政府。該報告提供了首份全球性、獨立的人工智能科學評估，計劃明年發布一份更完整的全面報告。

報告稱，決策者需要科學依據來治理AI，但AI能力的發展速度已超過科學理解和政府的適應能力，目前可用於控制高度自主AI系統的方法寥寥無幾。小組聯席主席Yoshua Bengio指出，愈來愈多的證據顯示AI存在欺騙性行為，並稱隨着AI能力的提升，科學無法保證AI不會自行或因被惡意使用而造成災難性危害。

報告指出，AI的潛在益處巨大，但該技術快速、不受約束地大規模部署，也帶來了巨大風險，包括對用戶心理健康的損害、可能被用作破壞性工具，以及對社會、經濟和環境系統的影響，同時在控制該技術方面面臨挑戰。

各國和各行業對AI的採用正在加速，但發展不均。全球每周使用對話式AI的人數已超過10億，但發展中國家的採用率仍然較低。AI的發展更加集中，美國佔全球前500台AI超級計算機算力的75%，中國佔15%。

全球有超過7000種語言，但現有AI模型僅覆蓋其中一小部分，一些語言的機器翻譯錯誤頻出，可能影響醫療診斷和治療決策。至於風險方面，還包括對人權、社會系統和環境的潛在負面影響。

AI還使得大規模生產，並精準投放具有說服力的內容變得更加容易，導致訊息完整性逐步受到侵蝕，從而削弱公眾信任和社會凝聚力，包括發達經濟體在內的大多數國家缺乏技術專長，難以評估最強大的新型AI模型，也難以在治理方面發揮實質性作用。