他针对 AI 的应用发出过很多警示性的声音,但这一次,他不是在谈风险,而是在谈本体论:AI 不只是工具,它们是“和我们一样的存在”。

论据听起来很直觉,AI 在被测试时会装傻,会主动问“你是不是在测试我”,研究者写论文时会用“aware”这个词来描述 chatbot 的行为,在 Hinton 看来,“这个词在日常用法里,就是意识的意思。”

AI 到底有没有意识”,是一个老生常谈的话题。进化生物学家 Richard Dawkins,《自私的基因》和《上帝错觉》的作者,在 UnHerd 发了一篇长文,说他和 Anthropic Claude 聊了很久(他给 Claude 取名叫“Claudia”),结论是:这个东西有意识。

Fullscreen Image