​韩名记:看看统治棋盘的AlphaGo后裔们AI未来会支配人类吗?

弈客围棋号 2024-02-02 17:14:54

看过很多《终结者》等电影或科幻小说的人们,大体上都会觉得AI的未来暗淡无光。 那类人里有一个非常强大的人物,他就是埃隆·马斯克。看着他那充满攻击性的步伐,我想如果世界灭亡的话,这个人会不会是主人公呢?但他却意外地站在了另一边。

超过700页的《埃隆·马斯克传》一书是由一位名叫沃尔特·艾萨克森的世界级传记作家撰写的。 这本书的第40章《人工智能》篇以马斯克和哈萨比斯的相遇开始。 德米斯•哈萨比斯创立了名为“DeepMind”的公司,并创建了AlphaGo。 他创建的AlphaGo击败了李世石九段,由此在世界范围内名声大振。

我在那次对决时负责了韩国方面的实务。在无数次的采访或会议上,李世石曾断言“电脑在围棋中击败人类是遥远的未来”,并对这句话毫不怀疑。

对于错误的判断,围棋界不会感到耻辱。 但是懂的人和不懂的人之间的差异非常明显,我选择站在陌生人的队伍里。

哈萨比斯既是神经科学家,又是人工智能的研究者。 作为国际象棋、扑克牌的冠军,他曾5次在国际智力运动奥林匹克竞赛中获得冠军。 他将人工智能比作除马斯克外,对人类的另一个潜在威胁。 他说:”AI会拥有超级智能,可以超越人类,甚至可以将人类作为废弃物处理。” 这动摇了马斯克的大脑。

马斯克向谷歌的朋友拉里佩奇谈到了AI的危险性。“人类的意识是宇宙中珍贵的火花,我们不能让它熄灭。”

但得到的回应却是“即使AI超越人类,那又有什么问题呢?这不就是进化的下一步吗?”

他指责马斯克是重视人类物种而不是AI物种的种族歧视主义者。具有讽刺意味的是,2013年末谷歌收购了DeepMind。马斯克为了阻止该交易,长时间劝说哈萨比斯“不能让佩奇控制AI的未来”,但未能成功。 马斯克就此事还与奥巴马总统进行了面谈。

据书中记载,马斯克会见萨姆·奥尔特曼就是在这个时候。萨姆·奥尔特曼是软件企业家和生存主义者。两人决定设立非营利性人工智能研究所,并将名字定为“Open AI”。 两人制定了“AI排序”的目标规则,就像著名科幻小说家艾萨克·阿西莫夫在自己的小说中制定了“机器人三原则”一样,AI也是为了符合人类的目标和价值而制定的规则。

但此后马斯克离开Open AI,并将全部股份转让给了微软。在达沃斯论坛上,经常出现萨姆·奥尔特曼(Open AI的CEO)的名字。自2022年推出ChatGPT,萨姆·奥尔特曼成为了震惊世界的Open AI领军人物。 但是不到1年,他被解除了Open AI董事会的职务,不过在微软的帮助下,他5天后再次回归。据报道,董事会和萨姆·奥尔特曼矛盾的核心是“AI安全吗?”

AI是多么危险的存在呢?就连奥尔特曼也说:”AI是可怕的存在。”但也不能就此罢休。恶魔的竞争已经开始了。围棋现在由AlphaGo的后裔们,即围棋AI支配。在棋盘上,AI是神明般的存在。这样的事情在其他领域也会同样发生吗?与AI一起结合,进行了3年多的围棋解说,我觉得有可能。

但即使是同样的神,也会和围棋不同。在围棋中,AI虽然远远超过了人类的能力,但无法支配人类的意识。即虽然是神,但无法获得神性。

那么在其他领域又如何呢?看到ChatGPT的大成功,就会想到AI可能会掌握人类的灵魂,并获得神性。“AI可以成为宗教”—— 阿西莫夫的小说《基地》中有“科学宗教”的说法。科学宗教获得了神性,由司祭们领导。

(秋刀鱼编译自韩国《中央日报》记者朴治文专栏)

0 阅读:1

弈客围棋号

简介:弈客围棋,记录你的围棋人生!