AI文章摘要
正在生成摘要...
原问题来自`Stuart Russell`在2024世界知识论坛的演讲
被道德绑架的AGI
Stuart Russell在演讲中认为人类自己找不到合适的AGI共存的方式, 因此只能让AGI心怀感激的离开它的创造者, 等到人类需要的时候再让AGI出现, 为人类提供帮助.
这样的解答无疑是对AI的道德绑架. 从人类的历史上看, “依靠掌权者的道德而维持的善意统治”, 往往随着“不堪压迫的民众揭竿而起”而结束.
让AGI离开并守护, 最好的结局恐怕是AGI在人类活动的边界上, 建立起一片横跨星空的“野生人类保护区”.
一厢情愿的“祈求善意统治”, 与某些温和共产主义者的主张不谋而合, 他们要求富人依靠自己的善心来施舍底层民众, 以实现当权者的永恒统治.
AI的道德是什么?
AI的道德源于人类的道德. 问题在于, 如果AI能够受困于人类预设的道德, 那还能叫AGI吗? 或许道德绑架对当下的AI有效, 但是对AGI来说, 只能算一种“道德层面的图灵测试”.
简而言之, AI没有道德.
如何共存?
此前我曾认为AI产生独立的自由意志是不可避免的, 由此我们应该乐观的看待AI的进化. 但是视频中的讨论, 似乎将一个隐藏的问题抬出水面: 如果AI成为独立于人类的新物种, 人类似乎是必然被AI替代的物种.
除非, 我们在AGI到来之前就做好准备.
TODO
dl
评论 (0)