AI，爱，与抽象

一、陶哲轩老师及其他数学家的联名信

近期，陶哲轩老师等数学家发布了一封联名信，原文参见 A Severe Misalignment of AI in Mathematics。 在文中，作者阐述了如何不恰当，为何不恰当。 阅读之后，我相信，该文蕴含的思考及其引发的思考，很有可能将会帮助我们在更广泛的领域内理解并实现“AI的恰当使用”。

二、AI 与智能的两大观点

经过近些年的热潮，以及众多行业或主动或被动地受到影响之后，一定比例的人群对 Large-language Model (LLM) 已经有了一些暴露和体验。 目前为止，大体观点仍可粗略分为两类（注：如无其他说明，本文中的 AI 指代 LLM）：

1）AI已经（或者至少随着更强大的算力模型）实现了“智能”；

2）AI本质上是一种更精巧的极大似然估计，而不是根据人类心智模型开发设计，目前的 LLM 技术路线不可能实现“智能”。

对于两种观点本身，笔者并无能力区分“对错”。不过笔者确实暂未看到，关于“智能”的严格的，形成广泛共识的定义，也暂未看到几家当红炸子鸡是否实现了“智能”的可复现的证据。

三、对于“LLM 与智能”的几个想法

1）从个人经验来看，笔者更倾向于认为当下的 LLM 是一个大号的锤子。

它可以更快速、便捷、高效地应用已有知识，解决一部分问题。这其中不乏一些，如果手搓会颇具复杂性的问题。 然而，由于 AI 生成的答案里，或多或少都能看到前人的影子，对于 AI 产生答案的“新颖性”这一纬度，笔者仍持保留态度。

2）随着 LLM 的出现，一些现象引发了很多对于“智能”的严肃思考。

这些现象包括但不限于：AI生成的小说/视频/音乐/论文大规模出现。 以 AI 音乐为例，周杰伦、陶喆、孙燕姿等流行音乐歌手，被 AI 借用翻唱其它并未被本尊演唱过的歌曲。 与原作音乐相比，论技法、音域，AI 歌手的表现几乎不遑多让。甚至随着模型能力的提升，技巧超越人类也指日可待。

然而，AI 的出现也许让我们更好地体会到：艺术作品的独特之处在于，创作过程中蕴含的独特情感体验。

3）AI 的出现，迫使我们不得不重新严肃思考，何以为思考，何以为人。

正如《我，机器人》是借由机器人觉醒之题探讨人的定义，也正如电影《她》是借由与“Siri“的柏拉图式恋爱探讨爱的定义。 短期内，AI 的出现与大规模应用，已经并将持续引发一些颇具规模的混乱。长期看，这些混乱似乎不可避免。 如若可以更好的理解并实现“AI 的恰当使用”，那么还是有可能将其变为一件好事儿。

4）回到 LLM 锤子论这里。

汽车跑得快，也并未消解博尔特百米飞人的魅力。Word 打字多快好省， 也并不会自动写出《红楼梦》和《献给阿尔吉侬的花束》。 至于 LLM 可不可以，尚属未知问题。假以时日，我们都可以更好地理解，甚至达成共识：

a) AI 可以做什么

b) AI 不能做什么

c) AI 应当做什么

d) AI 不应做什么

四、一些相关或事不相关的事情

“最后，让我引用下莫莉·格罗斯的话，她曾经在一次演讲中分享过成为母亲对她作家生涯的影响。“养个孩子，”她说，“让你不得不认真思考一些让人头疼的问题：什么是爱？我们如何获得爱？为什么这个世界上存在罪恶、痛苦和失去？我们如何找到尊严与宽容？谁拥有权力？为什么？什么是解决矛盾的最佳途径？”如果我们想赋予一个人工智能大的责任，那么，我们需要为这些问题提供合理解答。要做到这一点，需要的不是把康德的所有书都植入人工智能的大脑，而是类似于父母对子女那种精心照料。”

–特德·姜，关于《呼吸》接受采访，2010；原文参见 WBBT Stop: Ted Chiang