中新網北京7月30日電 (中新财經記者 宋宇晟)自今年6月以來,谷歌一名工程師稱某AI聊天機器人可能具有自己的“意識”,并稱該AI“令人印象深刻的語言技巧背後,可能還隐藏着一顆具備感知能力的心”。
這随後成為該領域備受關注的話題。據外媒近日報道,這位工程師已被谷歌解雇。但他留下的有關人工智能的話題仍在互聯網發酵。
記者注意到,就在6月,海外社交媒體上出現了一個該人工智能的“粉絲賬号”,有人還在發起話題,呼籲讓該人工智能“重獲自由”,更有甚者在海外社交媒體上稱“AI的命也是命”。
很多人或許無法理解這樣的想法,但當人工智能變得越來越強,越來越多地出現在人類身邊,“我們應如何看待AI”越來越成為一道必答題。近日,中國科學技術大學教授、中國人工智能學會AI倫理工作委員會負責人陳小平,就此話題接受了中新财經記者專訪。
中國科學技術大學教授、中國人工智能學會AI倫理工作委員會負責人陳小平。受訪者供圖
采訪實錄摘編如下:
中新财經記者:近期的一則新聞稱,谷歌一位工程師認為AI可能具有自己的“意識”,在網絡上引起讨論。您是如何看待此事的?他的想法有合理的地方嗎?
陳小平:這個問題可以分兩方面來看,一方面是不合理的,另一方面又具備合理性。這兩方面同時存在。
說這種想法不合理,主要是依據科學判斷,AI是沒有人格的。另一方面,我覺得導緻這位谷歌員工認為AI有“人格”,有其客觀原因。比如他可能對這個AI系統産生了共情。
5年前我就做過預測,類似的現象未來會越來越多地出現。目前對人工智能存在不同理解。按圖靈的觀點,人工智能隻是模仿人類的某些功能,而且這種模仿不要求必須和人的工作原理相同。比如 Alpha Go 具有下圍棋的功能,但它下圍棋的原理與人是完全不同的。所以,無論AI怎麼發展,它永遠不是人。因此說AI具有人格或人的情感、意識、道德等等,是不成立的。但是,AI可以用與人不同的工作原理,模仿人的語言、情感等功能,讓人對AI産生共情,于是一部分人就會認為,“AI是人,或具有人的某些精神品質。”
中新财經記者:現在我們身邊可能都有很多可以和人類“交流”的人工智能産品。對于這個時代的人們來說,人類與AI的邊界似乎正在變得模糊。在您看來,二者之間有沒有明确的界線?
陳小平:我認為有兩種邊界,一種是科學上的邊界,一種是人文上的邊界。
從科學的角度說,按照圖靈觀點,這個邊界是非常清晰的。AI僅僅模仿人的部分功能,本質上不具備人的品質,包括人格、情感、道德等等。
還有一些和圖靈不同的觀點。比如一種觀點認為,AI和人相比除了硬件不同,其他都相同。于是AI也可以有人格、有情感、有道德。估計這位谷歌前員工持此觀點。
于是,一方面是他相信AI除了硬件以外可以和人一樣;另一方面,從報道裡看,他對這個AI系統已經産生了共情。僅僅因為AI在科學上沒有情感等人類品質,就可以排除或禁止一個人對AI産生共情嗎?這屬于人文的邊界,這個邊界至少目前非常模糊。
中新财經記者:作為中國人工智能學會AI倫理工作委員會負責人,您認為,如果有人相信AI具有人格,是否會給人類本身帶來一些問題或困擾?
陳小平:如果我們認為AI有人格的話,肯定會帶來很多困擾。同時還會帶來一些負面的後果,有些後果非常嚴重。
比如,人類如何對待AI。如果認為AI有人格,那是不是要把AI當成人呢?如果把它當成人了,那是不是要給它人類的權利?包括生存權、财産權、投票權等等,甚至無論AI做了什麼危害人類的事情,都要像對待人一樣對待AI。
人類到底應該如何看待人工智能?這是一個非常根本的問題。如果AI真的具備人格、情感、道德,一般能力又超過人類,就會出現可控性問題。幾乎可以肯定的是,隻要AI能夠模仿一種功能,那AI的這種功能遲早會比人強,就像Alpha Go下棋一樣。如果AI的通用能力也超過人,到那時人類憑什麼能夠控制AI?這是個疑問。我們現在就要思考這樣的問題,提前做好風險防範。
當然,現在人工智能已經讓一些人産生了共情,将來會讓越來越多的人産生共情,這件事是客觀存在的。這将給人機關系、人際關系帶來巨大的新挑戰和新機遇,是一個新的重大課題。
資料圖 中新社記者 湯彥俊 攝
中新财經記者:此前您在智源大會論壇上,提到人工智能倫理治理的幾種挑戰。我們應如何應對這樣的挑戰?
陳小平:對人工智能如何分類,應該分為人還是物?我認為,我們應該把人工智能看成是非人非物的第三種存在物。科學上,它不是人;從人文的角度說,它不是物。那就是非人非物的第三種存在物。這種觀點與根深蒂固的“二元論”是根本不同的,所以人工智能帶來的颠覆實際上遠超科技範疇。
如果以這種觀點考慮,能化解很多矛盾和難題,包括上面提到的法律難題,而且可以讓科學與人文在某種程度上重新“握手言和”;但其中仍有挑戰。有很多科幻作品寫到人類愛上人工智能,如果采用三分法是否就沒這個問題了?其實仍然會有這樣的問題。
所以,我們要想未來怎麼适應這樣的社會,要判斷會不會出現人類不可接受的嚴重後果,要不要提前采取措施。
中新财經記者:目前國内在此方面的進展如何?
陳小平:這幾年我國人工智能倫理研究的發展非常快,從民間到政府對人工智能倫理都高度重視。這是個非常好的現象,我們有必要未雨綢缪。
在落實過程中,中國的情況總體上還是比較順利的。這表現在,一些基本原則上大家是有共識的,而且普遍認識到,不僅要從理論上研究,更要在實踐中開展治理。當然,如何在治理實踐中落實社會共識,仍是我們需要努力的方向。
具體怎麼治理?這涉及大量實際問題。我的研究發現,我們前面談到的可控性和長期後果的不确定性,難以用傳統治理模式有效應對,需要探索新的治理方法。
除此之外,如用戶隐私、數據安全、算法公平透明等問題,用傳統社會治理模式是可以有效應對的。我們不用擔心這類問題會變得失控、解決不了,其中一部分具體問題其實正在解決之中。
,