|
來源： 中國信通院 伴隨人工智能的迅速發(fā)展和廣泛應(yīng)用，人類正在進(jìn)入一個“人機(jī)物”相融合的萬物智能互聯(lián)時代。人工智能技術(shù)應(yīng)用在帶來機(jī)遇的同時，也引發(fā)了系列倫理挑戰(zhàn)。為應(yīng)對人工智能技術(shù)應(yīng)用帶來的風(fēng)險，世界各國積極推動人工智能倫理治理與合作。我國不斷健全人工智能倫理治理體系和機(jī)制，加快推動人工智能倫理治理技術(shù)化、工程化、標(biāo)準(zhǔn)化落地，促進(jìn)人工智能向善發(fā)展。 2023年12月26日，中國信息通信研究院（簡稱“中國信通院”）在“2024中國信通院ICT深度觀察報告會”科技倫理治理分論壇上發(fā)布了《人工智能倫理治理研究報告（2023年）》。 報告在總結(jié)人工智能倫理治理有關(guān)概念和特點(diǎn)的基礎(chǔ)上，對人工智能生成內(nèi)容、自動駕駛、智慧醫(yī)療三個典型應(yīng)用場景的倫理風(fēng)險進(jìn)行分析，并結(jié)合國內(nèi)外人工智能倫理治理實踐，提出人工智能倫理治理的四點(diǎn)展望，以期為更加廣泛深入的討論提供參考。 報告核心觀點(diǎn) 1. 人工智能倫理風(fēng)險挑戰(zhàn)亟需關(guān)注 目前，人工智能引發(fā)的倫理挑戰(zhàn)已從理論研討變?yōu)楝F(xiàn)實風(fēng)險。在技術(shù)研發(fā)階段，由于人工智能技術(shù)開發(fā)主體在數(shù)據(jù)獲取和使用、算法設(shè)計、模型調(diào)優(yōu)等方面還存在技術(shù)能力和管理方式的不足，可能產(chǎn)生偏見歧視、隱私泄露、錯誤信息、不可解釋等倫理風(fēng)險。在產(chǎn)品研發(fā)與應(yīng)用階段，人工智能產(chǎn)品所面向的具體領(lǐng)域、人工智能系統(tǒng)的部署應(yīng)用范圍等將影響人工智能倫理風(fēng)險程度，并可能產(chǎn)生誤用濫用、過度依賴、沖擊教育與就業(yè)等倫理風(fēng)險。對于人工智能生成內(nèi)容、自動駕駛、智慧醫(yī)療等典型應(yīng)用場景，需要根據(jù)風(fēng)險發(fā)生頻率、影響范圍、影響程度等評估主要風(fēng)險。 2. 人工智能倫理治理是應(yīng)對人工智能風(fēng)險的有效機(jī)制 人工智能倫理治理是人工智能治理的重要組成部分，是應(yīng)對人工智能風(fēng)險挑戰(zhàn)的主要機(jī)制。人工智能倫理治理把以人為本、公平非歧視、透明可解釋、人類可控制、責(zé)任可追溯、可持續(xù)發(fā)展等作為核心內(nèi)容，并根據(jù)人工智能技術(shù)發(fā)展和應(yīng)用情況，及時提出調(diào)整人與人工智能關(guān)系和應(yīng)對人工智能風(fēng)險的方法。 3. 各國積極推進(jìn)人工智能倫理治理 為應(yīng)對人工智能技術(shù)應(yīng)用帶來的風(fēng)險，世界各國積極推動人工智能倫理國際治理合作。各國政府通過出臺人工智能倫理原則、發(fā)布人工智能倫理治理指引、提供技術(shù)治理工具等加強(qiáng)本國本地區(qū)的人工智能倫理治理監(jiān)管。我國通過積極完善人工智能倫理制度規(guī)范，探索人工智能倫理治理技術(shù)化、工程化、標(biāo)準(zhǔn)化落地措施，引導(dǎo)行業(yè)自律，加強(qiáng)人工智能治理國際合作等舉措推動人工智能向善發(fā)展。 4. 人工智能倫理治理四點(diǎn)展望 在治理理念方面，堅持促進(jìn)創(chuàng)新與防范風(fēng)險相統(tǒng)一，統(tǒng)籌發(fā)展與安全。在治理舉措方面，健全多學(xué)科多主體合作、探索分類分級治理、推動治理技術(shù)工具開發(fā)。在能力建設(shè)方面，重視科研人員、開發(fā)人員、社會公眾等各主體科技倫理素養(yǎng)提升。在開放合作方面，積極參與全球人工智能倫理治理合作，推動人工智能技術(shù)造福人類。 |
