凯文·凯利在 Conscious or Not 中谈到，关于机器是否有智能、是否有意识，人类已经争论了很久。
很多科幻作者、技术乐观主义者早就相信机器智能迟早会出现。现在，大语言模型和 AI 系统已经让这个问题变得不再遥远。AI 可以写文章、回答问题、规划任务、生成图像、参与对话，甚至在很多场景中表现得比普通人更专业。
但凯文·凯利提醒我们：智能和意识不是同一个问题。
一个系统可以表现得很聪明，但它未必拥有主观体验。它可以完成复杂任务，可以模拟情绪，可以理解人类语言的模式，但这并不自动证明它“有感觉”。
未来我们可能很难区分“看起来有意识”和“真的有意识”。如果一个 AI 长期表现得像一个有意识的存在，人类该如何对待它？
核心观点：AI 可以越来越智能，但智能不等于意识。未来最大的难题不是判断 AI 是否真的有意识，而是当它表现得像有意识时，人类该如何与它相处。
本文根据凯文·凯利近期公开文章整理翻译，便于中文读者阅读。