杨立昆:人工智能尚不足以引发监管担忧
【HowToTech科技】10月20日消息,meta旗下社交媒体巨头Facebook的首席人工智能研究员杨立昆(Yann
LeCun)在最新采访中发表观点,坚称目前的人工智能仍然“愚蠢”,无需过多监管。这一言论引发了广泛讨论,尤其是在人工智能伦理和监管方面。
杨立昆是计算机视觉和神经网络领域的杰出领袖,也是2018年图灵奖得主。他强调,现在对人工智能的监管类似于在喷气式飞机发明之前对其进行管制,认为早期的监管可能会扼杀竞争。
然而,有人对他的观点提出质疑。他认为当前的监管主要集中在系统的“潜在风险”上,而实际上人工智能尚未达到与人类相媲美的智能水平。这一观点在一些专家看来“适得其反”,认为杨立昆的立场可能为人工智能怀疑者提供了借口,以绕过监管。
这一立场与杨立昆的同行,被誉为“人工智能教父”的杰弗里·欣顿(Geoffrey
Hinton)的看法不谋而合。最近,欣顿表达了对人工智能监管的支持,他认为基于目前的大型语言模型,人工智能有望取得更大突破,但也带来了潜在的危害。
杨立昆对此持不同看法,他坚信大多数人对人工智能过于乐观,过分受到了电影如《终结者》等科幻作品的影响,认为这些机器会变得比人类更聪明。然而,他指出目前的人工智能模型实际上并不理解世界的运作方式,缺乏计划和真正的推理能力。
在通用人工智能方面,杨立昆对科学家们提出警告,认为要实现从当前的人工智能水平到电影《终结者》中的天网需要许多“概念上的突破”,目前科学家们尚未知道如何实现。
尽管如此,他的讲话并未触及人工智能图像生成器、语言模型以及自动驾驶汽车等领域中出现的偏见和伦理问题。同时,他也未深入探讨人工智能可能引发的网络垃圾和虚假信息问题。
杨立昆目前负责meta的大型语言模型Galactica
AI,这一项目旨在帮助研究人员提高工作效率。然而,科学家们发现该系统引用文本错误,甚至编造期刊内容,最终导致meta于去年11月停用该项目。杨立昆对此表示不满,质疑是否有必要滥用机器人来获取乐趣。
尽管认为人工智能可能变得更加聪明,甚至超越人类智能,杨立昆坚信人工智能不会对人类造成伤害,而是将有助于解决更大的社会问题,如癌症治疗和气候变化等。他指出,智力与控制欲并无必然联系,以阿尔伯特·爱因斯坦等科学家为例,即使他们具备智力,也未必会统治他人。
杨立昆最后表示,社会有能力“阻止邪恶拥有无限的权力”,暗示监管应以确保道德和伦理原则为导向。
延伸阅读:
OpenAI 测试长输出版 GPT-4o:单次输出达64K tokens
【HowToTech科技】8月1日消息,OpenAI在7月29日透露,他们正在对一款名为GPT-4o Long Outp...
ISC.AI2024数字安全峰会:360、华为、微软等共话安全+AI新挑战
7月31日,ISC.AI 2024数字安全峰会在北京国家会中心顺利召开。峰会以“打造安全大模型,引领安全行业革命”为主题...
ISC.AI2024开幕 周鸿祎发布国内首个免费安全大模型
“把大模型拉下神坛就要把免费贯彻到底,今天我在行业里第一个宣布安全大模型免费。”7月31日,ISC.AI2024第十二届...
实时对话更自然,OpenAI 向部分付费订阅用户开放 GPT-4o 语音模式
【HowToTech科技】7月31日消息,OpenAI于当地时间30日宣布,即日起GPT-4o的语音模式(注:Alpha...