|
來(lái)源： 中國(guó)信通院 伴隨人工智能的迅速發(fā)展和廣泛應(yīng)用，人類正在進(jìn)入一個(gè)“人機(jī)物”相融合的萬(wàn)物智能互聯(lián)時(shí)代。人工智能技術(shù)應(yīng)用在帶來(lái)機(jī)遇的同時(shí)，也引發(fā)了系列倫理挑戰(zhàn)。為應(yīng)對(duì)人工智能技術(shù)應(yīng)用帶來(lái)的風(fēng)險(xiǎn)，世界各國(guó)積極推動(dòng)人工智能倫理治理與合作。我國(guó)不斷健全人工智能倫理治理體系和機(jī)制，加快推動(dòng)人工智能倫理治理技術(shù)化、工程化、標(biāo)準(zhǔn)化落地，促進(jìn)人工智能向善發(fā)展。 2023年12月26日，中國(guó)信息通信研究院（簡(jiǎn)稱“中國(guó)信通院”）在“2024中國(guó)信通院ICT深度觀察報(bào)告會(huì)”科技倫理治理分論壇上發(fā)布了《人工智能倫理治理研究報(bào)告（2023年）》。 報(bào)告在總結(jié)人工智能倫理治理有關(guān)概念和特點(diǎn)的基礎(chǔ)上，對(duì)人工智能生成內(nèi)容、自動(dòng)駕駛、智慧醫(yī)療三個(gè)典型應(yīng)用場(chǎng)景的倫理風(fēng)險(xiǎn)進(jìn)行分析，并結(jié)合國(guó)內(nèi)外人工智能倫理治理實(shí)踐，提出人工智能倫理治理的四點(diǎn)展望，以期為更加廣泛深入的討論提供參考。 報(bào)告核心觀點(diǎn) 1. 人工智能倫理風(fēng)險(xiǎn)挑戰(zhàn)亟需關(guān)注 目前，人工智能引發(fā)的倫理挑戰(zhàn)已從理論研討變?yōu)楝F(xiàn)實(shí)風(fēng)險(xiǎn)。在技術(shù)研發(fā)階段，由于人工智能技術(shù)開(kāi)發(fā)主體在數(shù)據(jù)獲取和使用、算法設(shè)計(jì)、模型調(diào)優(yōu)等方面還存在技術(shù)能力和管理方式的不足，可能產(chǎn)生偏見(jiàn)歧視、隱私泄露、錯(cuò)誤信息、不可解釋等倫理風(fēng)險(xiǎn)。在產(chǎn)品研發(fā)與應(yīng)用階段，人工智能產(chǎn)品所面向的具體領(lǐng)域、人工智能系統(tǒng)的部署應(yīng)用范圍等將影響人工智能倫理風(fēng)險(xiǎn)程度，并可能產(chǎn)生誤用濫用、過(guò)度依賴、沖擊教育與就業(yè)等倫理風(fēng)險(xiǎn)。對(duì)于人工智能生成內(nèi)容、自動(dòng)駕駛、智慧醫(yī)療等典型應(yīng)用場(chǎng)景，需要根據(jù)風(fēng)險(xiǎn)發(fā)生頻率、影響范圍、影響程度等評(píng)估主要風(fēng)險(xiǎn)。 2. 人工智能倫理治理是應(yīng)對(duì)人工智能風(fēng)險(xiǎn)的有效機(jī)制 人工智能倫理治理是人工智能治理的重要組成部分，是應(yīng)對(duì)人工智能風(fēng)險(xiǎn)挑戰(zhàn)的主要機(jī)制。人工智能倫理治理把以人為本、公平非歧視、透明可解釋、人類可控制、責(zé)任可追溯、可持續(xù)發(fā)展等作為核心內(nèi)容，并根據(jù)人工智能技術(shù)發(fā)展和應(yīng)用情況，及時(shí)提出調(diào)整人與人工智能關(guān)系和應(yīng)對(duì)人工智能風(fēng)險(xiǎn)的方法。 3. 各國(guó)積極推進(jìn)人工智能倫理治理 為應(yīng)對(duì)人工智能技術(shù)應(yīng)用帶來(lái)的風(fēng)險(xiǎn)，世界各國(guó)積極推動(dòng)人工智能倫理國(guó)際治理合作。各國(guó)政府通過(guò)出臺(tái)人工智能倫理原則、發(fā)布人工智能倫理治理指引、提供技術(shù)治理工具等加強(qiáng)本國(guó)本地區(qū)的人工智能倫理治理監(jiān)管。我國(guó)通過(guò)積極完善人工智能倫理制度規(guī)范，探索人工智能倫理治理技術(shù)化、工程化、標(biāo)準(zhǔn)化落地措施，引導(dǎo)行業(yè)自律，加強(qiáng)人工智能治理國(guó)際合作等舉措推動(dòng)人工智能向善發(fā)展。 4. 人工智能倫理治理四點(diǎn)展望 在治理理念方面，堅(jiān)持促進(jìn)創(chuàng)新與防范風(fēng)險(xiǎn)相統(tǒng)一，統(tǒng)籌發(fā)展與安全。在治理舉措方面，健全多學(xué)科多主體合作、探索分類分級(jí)治理、推動(dòng)治理技術(shù)工具開(kāi)發(fā)。在能力建設(shè)方面，重視科研人員、開(kāi)發(fā)人員、社會(huì)公眾等各主體科技倫理素養(yǎng)提升。在開(kāi)放合作方面，積極參與全球人工智能倫理治理合作，推動(dòng)人工智能技術(shù)造福人類。 |
