一鍵發布任務
發布成功
發布成功
贊賞金額：
支付金額：5元
支付方式：
贊賞成功！
你的贊賞是對作者最大的肯定~?
人工智能是否會讓人類最終陷入萬劫不復的境地？
會議的主題是“人工智能的未來：機遇與挑戰”，顯得十分樂觀。牛津大學人工智能倫理學家尼可·博斯特倫（Nick Bostrom）與商業巨頭，如Skype的創始人揚·塔里安（Jaan Tallinn）、谷歌公司人工智能專家謝恩·列格（Shane Legg）都參與了這次會議。
埃隆·馬斯克和霍金擔憂“人工智能天啟”的到來，但目前還存在著更加迫在眉睫的威脅。在過去五年中，人工智能——特別是被稱為“深層神經網絡”的人工智能算法分支——的快速發展使人工智能主導的產品在我們的生活中越來越占據著中心和前沿的地位。谷歌、Facebook、微軟和百度等公司，都在以前所未有的速度尋找人工智能研究者，投入數以億計的美元，試圖開發出更好的算法和更聰明的計算機。
幾年之前人們認為似乎無法解決的人工智能難題如今逐漸被攻克，推動了安卓系統的語音識別，使Skype能像《星際迷航》里那樣進行即時的翻譯；谷歌公司正在研制自動駕駛汽車，以及可以自動學習如何分辨貓類視頻的計算機系統；機器大狗如今的行走能力也越來越接近現實中的狗了。
“計算機視覺已經開始應用；語音識別也開始了應用，人工智能系統有相當快的發展速度，”參與會議的人工智能倫理學家、康奈爾大學教授巴特·塞爾曼（Bart Selman）說，“這使得這一議題變得更加緊迫。”
鑒于如此快速的發展，埃隆·馬斯克和其他許多人開始向人工智能產品的開發者發出呼吁：要考慮開發過程中的倫理問題。在這次波多黎各的會議上，代表們簽署了一封公開信，承諾進行目的健康、積極的人工智能研究，避免誤入歧途。埃隆·馬斯克也在公開信上簽了名，“所有這些最優秀的前沿研究者都認為人工智能的安全問題非常重要，”他說，“我同意他們的意見。”
谷歌公司的雄心
九位來自DeepMind公司的研究者也在公開信上簽了字。DeepMind是一家人工智能公司，去年被谷歌收購。這個故事要從2011年開始講起。當時，德米斯·哈薩比斯（Demis Hassabis）在一次人工智能會議上做了演講，之后認識了主動前來自我介紹的揚·塔里安。哈薩比斯剛剛創立了DeepMind，而塔里安在創立Skype之后，逐漸成了一個人工智能安全問題的“布道者”，正在尋找一位志同道合的人。兩個人開始談論起人工智能，塔里安很快就投資了DeepMind。去年，谷歌公司花了4億美元收購了這家僅有50人的公司，一舉擁有了世界上最大的深度學習領域人才和專利庫。不過，谷歌還是顯得十分低調，甚至不讓哈薩比斯接受采訪。DeepMind正在進行的研究包括對周圍環境具有更好感知能力的智能機器人和自動駕駛汽車。
不過，這些研究卻讓揚·塔里安有點擔心。他在此次波多黎各的會議上做了個演講，回憶起哈薩比斯在一個午餐會上向他展示自己所開發的機器學習系統，該機器能玩20世紀80年代流行的街機游戲《Breakout》。事實上，它不僅會玩，而且非常精通，高效而無情，令塔里安感到震驚。“盡管作為技術人員的我對這一成就感到驚奇，但另一方面的我想到，我正在見證一個開啟人工智能災難的玩具模型。一次突然的展示，讓我看到了意想不到的智能潛力。”塔里安回憶道。
在1975年的阿希洛馬會議（Asilomar Conference）上，分子生物學家們就重組DNA的道德底線問題進行了討論，最終在安全標準上取得了共識，簽名保證不讓人工基因改造的生物對公眾造成威脅。相比波多黎各的這次人工智能會議，阿希洛馬會議的結果顯然更加具體。
在波多黎各的這次會議上，參會者的公開信概述了人工智能的研究重點，如人工智能的經濟和法律效應，以及人工智能系統的安全性。近日，埃隆·馬斯克斥資一千萬美元用于支持這項研究。這些都是防止機器人破壞世界經濟，或防止它們向人類大開殺戒的重要一步。一些公司已經走得更遠。去年，加拿大機器人公司Clearpath Robotics承諾不研制用于軍事的自主機器人。該公司首席技術官瑞恩·加里皮（Ryan Gariepy）在公司網頁上寫道：“致反對殺人機器人的人們：我們支持你。”
承諾不開發“終結者”僅僅是開始。像谷歌這樣的人工智能公司必須考慮他們的產品，如自動駕駛汽車的安全性和法律責任問題。無論機器人是否會使人類失去工作，人工智能算法所導致的意想不到的后果，對人類來說都顯得不是很公平。舉例來說，亞馬遜公司在不同社區出售商品的價格不同，這是否符合倫理？有沒有什么安全措施，來保障大宗商品市場不被某個交易算法破壞？在自動駕駛交通工具的時代，從事大巴司機這樣職業的人將何去何從？
Binatix是一家從事股票市場交易的深度學習公司，其創始人伊塔馬爾·阿雷爾（Itamar Arel）并沒有參加波多黎各的會議，但他在讀完公開信后馬上簽了名。對他來說，智能算法領域的革命，以及價格低廉的智能機器人需要被人們更好地理解。“是時候要花更多精力去理解人工智能系統取代藍領工作所帶來的社會影響了，”他說，“這是肯定的，社會無法跟上人工智能系統發展的速率。這絕對是個問題。”
倫敦帝國學院的認知機器人教授穆雷·沙納漢（Murray Shanahan）稱，對破壞性人工智能超級大腦的預測或許會登上頭版頭條，但在近幾年，這些更加枯燥、平淡的擔憂意見才是更應該見諸媒體的。他說：“很難預測到底會發生什么，但我們能肯定，它們一定會對社會造成影響。”
