近期，Meta 开源 llama3 的新闻吸引了我的注意力。我了解到，许多 AI 厂商开源了一些大模型，并持续更新，一时间，竟有“百模大战”之势。最近，我注意到一些方便普通用户和开发者测试和试用开源大模型的工具，其中就有 [ollama](https://ollama.com/)（还有 [LM Studio](https://lmstudio.ai/) 可选）。

## 安装 ollama 和试用开源大模型

我在我的 Linux 笔记本上尝试安装了 ollama。安装方法很简单，运行

```shell
curl -fsSL https://ollama.com/install.sh | sh
```

之后，运行

```shell
ollama -v
```

来确认是否安装成功。

我选择安装了 Meta 最新开源的 llama3。运行

```shell
ollama run llama3
```

即可安装。安装成功后立刻可与 AI 在终端对话。实测下载速度拉满。

![安装 ollama](/images/try-ai-models-locally/1.png)

运行

```shell
ollama list
```

可以查看已安装的大模型，运行

```shell
ollama rm <modelname>
```

可以删除大模型。

对于 Linux，大模型的安装地址在/usr/share/ollama/.ollama/models/blobs。

llama3 应该是迄今为止性能最强的开源 LLaMA（Large Language Model Application）。对于一般用户的计算而言，默认安装 8b 版本即可。llama3:8b 在我载有 NVIDIA RTX 3050 ti 显卡的 Linux 笔记本上运行速度尚可。不够快，但也能接受。如果显卡是 4060，那么应该会很流畅。

llama3:8b 的一个问题是，总是试图用英文来回答问题。反复纠正也没有用。我目前的对应措施是，让 AI 翻译刚才的回答，而不是试图提醒它应该用中文回答我（如果这样做，AI 实际上要用中文重新组织回答，不但可能内容比英文更简略，还可能会导致错乱的中英混杂问题）。只能等待其他人提供 llama3 的中文微调版本，就像 llama2 那样。

由于 llama3:8b 的中文能力问题，我又尝试了[零一万物](https://www.lingyiwanwu.com/)的 Yi 大模型。分别尝试了 6b 和 34b 两个版本。 Yi:6b 的运行特别流畅，并且中文对答明显好于 ollama3。不过，Yi:6b 对标的应该是 llama2。实测，Yi:6b 的能力远不如 ollama3:8b；只要你能忍受后者的英文回答，那么用后者会更好些。后续我会提供一个简短的试用视频来展示这一点。

不过， GitHub 上有个 [Chinese-LLaMA-Alpaca-3](https://github.com/ymcui/Chinese-LLaMA-Alpaca-3)项目，提供各种对开源大模型的中文微调版本，可以尝试。我尝试后发现，AI 的每一段回答都包含重复，遂放弃。

比如，对于 llama3:8b，有对应的中文微调版本，参照这里的[指示](https://github.com/Shenzhi-Wang/Llama3-Chinese-Chat)来用 ollama 运行手动添加的大模型。

我还尝试了 Yi:34b。也能运行，但速度较慢（也不能说特别慢）。但是，Yi:34b 会导致 CUDA 服务退出（通过运行 nvidia-smi 来确认），这促使我将其删除。

此外，我还尝试了通义千问的开源版本 qwen，测试了其中的 qwen:13b-chat。运行流畅度与 ollama:8b 相当，但对话能力和 Yi:6b 类似，虽然中文能力较强，但实质对话能力远不如 ollama3:8b。

我找到了一个部署 Yi 各版本的[硬件要求说明](https://github.com/Shenzhi-Wang/Llama3-Chinese-Chat?tab=readme-ov-file#3-usage)，一般来说，普通计算机上试用它们的基础版本为宜。

| Model | Minimum VRAM | Recommended GPU Example |
| :---------------- | :----------- | :--------------------------------------------------------------------------------------------------------: |
| Yi-6B-Chat | 15 GB | 1 x RTX 3090 (24 GB) 1 x RTX 4090 (24 GB) 1 x A10 (24 GB) 1 x A30 (24 GB) |
| Yi-6B-Chat-4bits | 4 GB | 1 x RTX 3060 (12 GB) 1 x RTX 4060 (8 GB) |
| Yi-6B-Chat-8bits | 8 GB | 1 x RTX 3070 (8 GB) 1 x RTX 4060 (8 GB) |
| Yi-34B-Chat | 72 GB | 4 x RTX 4090 (24 GB) 1 x A800 (80GB) |
| Yi-34B-Chat-4bits | 20 GB | 1 x RTX 3090 (24 GB) 1 x RTX 4090 (24 GB) 1 x A10 (24 GB) 1 x A30 (24 GB) 1 x A100 (40 GB) |
| Yi-34B-Chat-8bits | 38 GB | 2 x RTX 3090 (24 GB) 2 x RTX 4090 (24 GB) 1 x A800 (40 GB) |

## 在 Obsidian 上尝试利用本地开源大模型

安装成功后，我有点兴奋地尝试在 Obsidian 中使用插件调用本地大模型的服务。

我尝试了 Copilot 这款插件。它既可以与当前笔记对话，还可以实验性地与整个笔记库对话。设置本地 ollama 的前置条件是在终端运行

```shell
OLLAMA_ORIGINS=app://obsidian.md* ollama serve
```

但我始终得到

```shell
Error: listen tcp 127.0.0.1:11434: bind: address already in use
```

在 ollama 的 GitHub 仓库上看到一些说明，尝试了各种方法也无法解决这个问题。最后则是通过如下方法解决：

运行

```shell
sudo nano /etc/systemd/system/ollama.service
```

在

```shell
Environment="PATH=/home/midtail/.local/share/pnpm:/usr/local/sbin:/usr/lo>
```

的下一行添加

```shell
Environment="OLLAMA_ORIGINS=app://obsidian.md*"
```

保存和退出。然后运行

```shell
systemctl daemon-reload
systemctl restart ollama
```

来重启 ollama。

当然，别忘了运行

```shell
ollama pull nomic-embed-text
```

然后确保，Embedding Models 一项中选择“ollama-nomic-embed-text”，据说可以本地嵌入。

Copilot 上的设置如下：

第一行的 Default Model 选择 OLLAMA LOCAL。

继续往下拉，设置如下

![Copilot 设置](/images/try-ai-models-locally/2.png)

其中的 Ollama model，根据你的实际情况来填写。

其他暂时保持默认，其中 Auto-Index Strategy 这一项，我暂时选择 NEVER，因为我测试的 Obsidian 仓库空空如也。我的笔记都还在 Roam Research 中。

之后，在 Obsidian 打开任意页面，之后打开左侧边栏的 Copilot chat 图标，在右侧边栏打开对话框。

先选择对话框的那个向上箭头，将当前的笔记上传给 AI，然后开始对话。

经实测，上传笔记给 AI 后，它会说已经阅读了笔记，但是继续问它，它就就又说没有给它任何文章阅读，或者在介绍插件本身。

![Copilot 上的对话-1](/images/try-ai-models-locally/5.png)

尝试其他模式也是如此。很有可能是因为该插件无法用中文来处理问题。我也懒得用英文来测试了。

不过，在对话框中输入例如

```shell
总结[[一个页面的标题]]的主要观点
```

可以和 AI 发起有意义的对话。

![Copilot 上的对话-2](/images/try-ai-models-locally/6.png)

又测试了另一个更热门的插件 Smart Connection。虽然在 Obsidian 插件市场的描述中说支持 ollama，但在设置页面完全找不到 ollama 的影子。找了一些资料后发现，可以做以下设置来测试 ollama 在该插件中的使用。

![Smart Connection 上的设置-1](/images/try-ai-models-locally/3.png)

![Smart Connection 上的设置-2](/images/try-ai-models-locally/4.png)

实测，在对话框中输入例如

```shell
总结[[一个页面的标题]]的主要观点
```

可以和 AI 发起有意义的对话。

![Smart Connection 上的对话](/images/try-ai-models-locally/7.png)

简单对照下，可见， Copilot 甚至会把它阅读的笔记的作者理解为我们自己。

Smart Connection 的插件作者承认还不正式支持 ollama，但是很快就会正式支持。

总的来说，**现在这类插件都处于试验阶段，仅供把玩**。当然后面我还是会将这些问题反馈给开发者的。加上现在普通计算器运行的本地大模型的能力有限，要获得实用效果，在当前阶段，还是尽量使用商用大模型的 API 吧。

我还在 vscode 中尝试通过一些插件（比如 Continue）来试用本地大模型来辅助编码，就不详谈了。

## 一些展望

首先，当前开源大模型正处于快速迭代时期，相信在不久的将来，各大厂商就会推出硬件资源要求更低而性能强 n 倍的开源大模型。所以，不必对当前本地大模型的糟糕表现气馁。

其次，是时候在以后的硬件选配上选择带有更高性能的英伟达显卡的机器了。我计划以后购买有更高性能 NVIDIA 显卡的小主机，整盘安装 Linux。当然，随着时间的推移，ollama 应该可以提高本地大模型在 Apple 芯片机器上的性能，但是，由于大模型基本上都是利用 CUDA 来训练的，Apple 芯片无论如何不会比高性能英伟达显卡更适合利用本地开源大模型。此外，目前来说，Linux 是运行本地大模型的最佳操作系统。

再次，即使不懂编程，也得尝试了解如何对开源大模型再训练或微调，将自己的个性化资料输入大模型中。否则，就得忍受本地大模型仅限于读取笔记内容来回答问题的水平，而不是将自己的笔记写入大模型的知识库，成为大模型的一部分。现在已经有许多此类工具，我也在尝试了解。

最后，对于 AI 辅助笔记的问题，我的几点主要想法是：

1. 未来 AI 辅助笔记应该大有作为。正如计算机远比人类更快更准备地计算数字，AI 也可以因为能够瞬间阅读我们的全部笔记（无论它有多少），而远远比人类更快速更准备地阅读、回忆和检索笔记。人类放弃计算数字的工作，转向解决更具创造性的数学和工程问题，我们在不久的将来也有望放弃笔记的阅读、回忆、检索、整理工作，而转向更具创造性的资料选择、资料利用以及创作问题。
2. 可以遇见，将来的记笔记活动又将迎来一次革新（上一次革新是电子笔记的出现带来的便捷检索；双链笔记不是，现在想来，基于手工的双链的出现更像是 AI 时代笔记软件的一种征兆）。一定会有大量的新型笔记软件，基于经过优化的 AI 模型。可以预见，AI 将成为未来笔记软件的基石。
3. 因此，完全不必为如何在 Obsidian 这样的笔记软件上利用本地大模型感到担忧或焦虑。目前这些插件仅仅是一种实验性的把玩，它们仍是旧时代的产物，因为它们的模式是，在旧时代的笔记软件上添加 AI 辅助，而新时代的笔记软件的模式是，在 AI 的基础上重新编写笔记软件。对于新时代的笔记软件，AI 本来就在那儿，无须你努力引入它。
4. 据说，ChatGPT 很快就允许用户上传数据（从 OneDrive 或 Google Drive）。
5. 假如你对利用 AI 辅助记笔记抱有很大的兴趣，即使是在目前，抱着把玩的目的，也应该将你的笔记迁移到开发社区兴盛的 Obsidian，特别是当你的笔记还在 WorkFlowy 或 Roam Research 这类笔记软件中。

作者在本地计算机试用了开源大模型，特别是在 Obsidian 上尝试用 AI 来处理笔记。作者预见，基于 AI 的新时代笔记软件即将出现。

试用本地开源大模型：新时代的笔记软件呼之欲出？


科幻小说家亚瑟·克拉克在1964年的一段视频中说：

> 未来世界中最聪明的物种不会是人或猴子，而是今天计算机的遥远后代……计算机将开始思考，并且最终将完全超越他们的缔造者。这应该令人类沮丧吗？我不这么认为。我们取代了克罗马侬人和尼安德特人，我们认为这是一种进步。我认为我们应该把成为更高阶生命的垫脚石视作一种特权。我怀疑有机或生物进化已经接近尾声，而我们正处在无机或机械物种进化的开端……

克拉克的观点代表了很大一部分人的想法：人类将会被自己制造的机器取代。对此，有两种想法紧紧地抓住人们的想象力：第一，这是不可避免的；第二，这是应当给予避免的。克拉克的建议是，应当在更大的视角下，比如在宇宙生命演化的视角下看待这个问题，这样看来，它不仅必然，而且可欲。

有一种想法十分流行：对于人工智能取代人类的问题，我们应该换一种视角，把人类看作漫长无垠的宇宙演化历程中的一环，看作可能是难以想象的更复杂更庞大生命体的一分子。

请想一下，按照目前的研究，各种元素上百亿年前经历了从无到有的历程，然后是太阳和地球的产生，然后是大分子团(比如能够自我复制的RNA分子)、蛋白质的产生，然后是原核细胞、真核细胞的出现，然后是单细胞生物、多细胞生物的漫长演化历程，直到今天我们看到的这个生物多样的世界。

我很早看过的一本讲述宇宙演化的书说，宇宙中从元素到生命的演化是未来物理学最重大的问题之一：宇宙是否必然经历这样的历程？物理学能否为物质和生命的历史建立一个统一的解释？

确实，从如此宏大的视角出发，人类成为未来生命的垫脚石没什么大不了的，哪怕是成为自己亲手制造的机器的垫脚石。这个想法鼓励人们放弃从人的视角考虑这个科学兼道德问题：在漫长无垠的宇宙时间线中，就像细胞充当动物微不足道的一分子那样，人类可能会充当难以想象的复杂和庞大生命体的一份子。

超越人的视角似乎让我们获得一种缓解。面对未来人工智能，第二个直觉性的想法——应当避免未来人工智能威胁到人类——如果不是错误的，也肯定是徒劳的。

试图超越人的视角来考虑类似问题，不仅幼稚，而且危险。这可以成为科幻小说和电影、日常谈话的一部分，但，不能成为严肃的科学、哲学、政治和法律思考的一部分。一个至关重要的事实是，无论细胞、蛋白质，还是成为人类食物或宠物的其他动物，都没有思考过这个问题。事实上，它们根本没有思想。如果不是因为人类替细胞想这个问题，细胞根本就不会有这个问题。

帕斯卡尔有一段很有名的话：

> 人只不过是一根苇草，是自然界最脆弱的东西；但他是一根能思想的苇草。用不着整个宇宙都拿起武器来才能毁灭；一口气、一滴水就足以致他死命了。然而，纵使宇宙毁灭了他，人却仍然要比致他于死命的东西更高贵得多；因为他知道自己要死亡，以及宇宙对他所具有的优势，而宇宙对此却是一无所知。

人类是会思想的存在物，这不意味着人类在宇宙中占据多么显著的位置。这意味着，宇宙中，无论渺小的还是伟大的，脆弱的还是坚强的，易朽的还是永恒的，都会成为人类思想的对象，直到可能有一天，思想不再存在。

人类是会思想的存在物，是一个不大不小的事实。这个事实深深影响了宇宙和人类：第一，人类思想的边界拓展到哪里，宇宙的边界就拓展到哪里；第二，人类一直将自己作为世界和万物的尺度和参照来思考所有重大问题。

最典型的例子是宗教。神被设想为宇宙万物的创造者。然后，人被设想为造物主最用心的作品。在人与造物主之间有着直接的联系。在许多宗教中，造物主创造万物供人类享用，人类的天职则是侍奉和取悦造物主。

宇宙的边界和人类思想的边界是重合的，这在哲学家宏大的思想图景中，更是如此。人是什么，人如何认知，人能做什么，是哲学家深深思考的最基本的一些问题。在他们思想图景中，世界是怎样的，在很大程度上取决对这些问题的回答，而且，人类过道德生活的能力和限度，与世界隐秘的原因或原则可能有某种联系。

还有，在现代政治哲学中人们熟悉的自然状态中，每个人其实扮演着地上的上帝的角色：每个人拥有自由，直接与上帝发生联系，他们在过上幸福生活的过程中所遭遇的麻烦，直接被上帝所关注。重要的是，在世界的终极原因和人之间，没有中介物。在考虑人类文明的种种法则时，没有天使、魔鬼和半人半兽的位置。洛克说，动物和植物被上帝创造了供人类享用。

当然可能设想，人类的创造物实际上只是更复杂更庞大的创造物的一部分，以至于，我们的宇宙可能是更复杂更庞大宇宙微不足道的一分子——我们的宇宙相对于这个宇宙，就如蛋白质相对于人体。休谟在《自然宗教对话录》中就表达了这个想法。

这意味着，第一，世界的边界远远大于人类思想的边界，第二，人类可能只是服务于更复杂更庞大存在物的工具。

但这不会成为科学和哲学的主流想法。因为所有相关的想法，都是空洞的，缺乏经验材料的。一切有关这些问题的推理，都是反事实的，因而是不可判定的。

人是什么？人如何认知？人能做什么？围绕这些基本问题，人类发展出了复杂庞大的哲学和科学体系。人类是怎么认识事物的？人类认识的限度是什么？人怎么才能确定自己所认知的事物是真实的？人类在整个宇宙中是否有被安排的目的？如果至善或正当真的是宇宙中客观存在的，那么人们的理性能力如何能够正确认识？如果人们能够正确认识，是否能够正确回应？人类在道德实践上的表现，是否说明了人类实践理性的缺陷，这一缺陷与宇宙背后隐秘的原因、原则或目的的联系是什么？

对这些问题的探索，事实上正成为人们积极思考人工智能的道德问题最重要的资源。直接的想法是，如果清楚我们自己是如何变得道德的，那么我们就更有把握使我们的受造物变得道德；如果清楚我们自己道德能力的缺陷，那么我们就更容易了解，在使我们的受造物尽可能有道德的过程中，我们无能为力的地方。

可以说，随着人工智能技术发展，人类比以往任何时候都更迫切需要一门道德科学，以准确回答类似这样一些问题：**心灵如何正确形成和回应道德观念**？因此，未来人工智能的开发过程中，机器的学习和思想过程，应当与它们形成和回应道德观念的过程联系在一起。这是全新的挑战，一般哲学、认知科学、实践哲学等等学科都应当参与其中。作为一名社会科学研究者，这是人工智能最吸引我的地方，它让我看到，为了使人工智能有道德，人类正被迫把道德变得一门科学，把哲学变成一门科学，即使只是在很有限的范围内。

现在可以总结下，为什么超越或放弃人的视角来思考人与未来人工智能生命的关系，是不可取的。

第一，人对于未来人工智能生命的关系的所有思想资源，都根植于人的视角。

第二，人将自己作为世界和万物的尺度和参照，所发展出了复杂的科学和哲学体系，是我们所能利用的最好的、最真实的资源。

第三，超越人的视角，不只是不可欲，更加不可能。

这些结论会使另外一些人感到欣慰。与那些建议超越人的视角的人的相反，一些人可能走向另一个极端，他们坚信，人类应当且能够阻止开发出威胁人类的人工智能，因为除了神，人是宇宙中至高无上的。这是一种误解。人类确实是世界和万物的尺度和参照，但更确切地说，“人是人所能认识的世界和万物的尺度和参照”。

有两种可能，第一，世界的边界真的与人类思想拓展的边界重合，假如有造物主，人类真的与造物物发生直接联系，是造物主精心制造的东西。第二，世界可能以无数种意想不到的方式存在，比如，人类所处的世界，可能只是无数平行世界的一个，可能只是更高阶生命的某个装置中的动画，可能只是高维度生命消亡之前的低维度延续，等等等等。

有一种不那么玄乎的可能情况是，人类是更复杂更庞大生命体的准备阶段。未来可能是这样的：尽管认识到不应当开发威胁人类的人工智能，但是由于种种原因，比如由于人类实践理性的缺陷或政治经济文明的缺陷，或者由于造物主的暗中安排，人类最终还是制造了超越自己的人工智能，并最终被完全取代。

这可能是最有趣的一点。想象这样一种情况，有助于提醒我们理性能力的可能限度。然而，无论如何，这样两种情况都无法被纳入严肃的思考和推理当中，因为它们是反事实的。**宇宙中只有人在思想，人是世界和万物的尺度，截至目前，这两点仍是事实**。这决定了，真正有意义的思考和推理，只能从人的视角出发，只能运用人的认识能力和道德能力。

那些超越人的视角的尝试，不把人的认识能力、道德能力作为前提的思想和行动，被证明要么是幼稚的，要么是危险的。

在《三体》中，叶文洁对人类文明感到失望，寄望于外星生命对人类文明的改造。她回应了意外发现的外星生命的信号。她做件事的理由是，假如它们有能力穿越几百亿光年来到太阳系，那么它们一定远比人类更文明，包括远比人类更有道德。

这就是一项试图超越人的视角所做的基于反事实的推理，它带来了太阳系有史以来最大的灾难，所幸，只发生小说之中。这个推理想象了一种存在物，它们在我们的经验世界中根本没有发现过，并且对它们的道德能力和道德偏好做了毫无根据的推断。我们的确只熟悉人类作为最高存在物的世界的道德状况，我们了解自己的道德能力的局限。当设想人类降级，一个更高级的存在物“加入”世界，我们就完全失去了方向，我们其实对此根本没有办法做任何严肃的推理，所能做的只是幻想和猜测。

可以这样简单理解这件事。想象一下，整个宇宙是一片湖，我们是其中游来游去的蝌蚪。如果在我们所能发现的历史中，从未经历过石头落入湖中的事件，尽管这件事是可能想象的。但是，如果真的发生这件事，有很大几率，会超乎所有蝌蚪的想象。

总之，面对未来人工智能取代人类的问题，我们不能放弃人的视角，尽管我们可以想象，这种视角可能会是多么的局限。


面对未来人工智能取代人类的问题，放弃人的视角不但幼稚，而且危险。

人类是未来人工智能的垫脚石吗？


## 阿尔法狗的愤怒

五六年前，由阿尔法狗引发的人工智能热潮很快席卷了法学圈子。新的学术增长点出现了。人们津津乐道，假如造成了有意识和人格的机器人，法律如何应对？我的一个学妹即将在一个大律所参加一个讨论会。她把讨论题目给我。题目大概是这样的：

> 小明参加某公司组织的与机器人阿尔法狗的围棋比赛。比赛之中，小明连胜三局。阿尔法狗“恼羞成怒”，掀起机器臂将小明打翻在地，造成其重伤。问题：在这场事故中，组织者，阿尔法的生产者和阿尔法狗等，哪一个应当对小明的伤害负法律责任？

这就是大所的敏锐和逼格。我不知道这个题目是由某个老成的律师，还是由某个刚从法学院毕业的、他们的学长或学姐设计的。总之，法学院和大律所的学术品位向来一致。

这个题目的设计者是否意识到，一个机器人“恼羞成怒”意味着什么？它得有自尊心和羞耻心。要有自尊心和羞耻心，得有完整的意识和人格。而要能如此，必须对自身和外部世界有异常丰富的感觉和知识。出题者或许没有问自己，如果有这样一个机器人，到底意味着什么？他或她的目的仅限于一个假设：

> 假如机器人跟人一样，那么会怎么样？

多少年过去了，整个人工智能法学圈，仍然没有摆脱这种虚假的反事实假设和推理。在这个假设还只是一个反事实假设时，一切关于它的推理，要么是虚假的，不可判定的，要么和除去人工智能障眼法的普通法律推理没有差别。

## 法律基于对人和社会特别根本的假设

任何简单试用过 ChatGPT 的 3.5-4 版本的人都会惊异于机器对自然语言的处理能力。就在不久以前，许多人还像我一样，以为这是难以置信的。无论 ChatGPT 在其他方面的能力如何，这一点堪称壮举。前不久，据说[马斯克等人签署暂停所有 AI 实验 6 个月的倡议书](https://futureoflife.org/open-letter/pause-giant-ai-experiments/)，从而为 AI 安全性评估留有充足的时间。

这份倡议书中提到，AI 可能有“用宣传和谎言充斥我们的信息渠道”的目标。我们总是很轻松乃至随意地使用条件句来假设，但是，在严肃的推理场合，这可能会犯下严重的错误。说 AI 有了一个目标，意味着什么？什么是目标？拥有目标，对于人类乃至动物是太过平凡的事情，正因于此，我们可能并不清楚做出这个假设意味着什么。

或许，AI 需要具备意识或者说心灵。但什么是意识和心灵？AI 具备意识或心灵，仍是难以想象的。或许在不久的将来，就像 AI 对自然语言的处理一样，它们会继续给我们惊喜。或许它们将为我们重新定义意识或心灵，而不是相反，被我们关于意识或心灵的模糊经验和知识所定义。然而，这还需要很长一段时间。在这段时间内，无论 AI 的能力变得多么强大，它们离具有意识，离拥有一个目标，离具有情绪等等这些人的基质，都还很远，或者，永远。

在这个过程中，我们当然可以有意义地谈论 AI 带给人们的机遇和挑战。比如，AI 将令人难以置信地取代许多职业。新闻稿撰写员？×。办公室文书？×。中小学教师？×。插画师？×。影像科医生？×。驾车员？×。这些足够令人赞叹。然而，无论如何，AI 还不是人，或者说，不是拥有意识的理性存在物。

这个提醒不是对事实的无聊重申。**有许多领域基于对人的本性的特别根本的假设，只有当 AI 的发展触及这些假设，这些领域才受到 AI 的实质影响**。法律就是这样。法律的主体，必须是人或者人建立的组织。这建立在有关社会组织和社会生活的一般真理之上：社会是由人来组织起来的，人是社会的个体，享有权利，履行义务，设定目标，付诸行动，提供理由。

如果 AI 可以代劳一部分医生的工作，对于普通患者而言，被 AI 诊治和被人诊治，在效果上没有差别，那么我们是否可以将医疗事故的相关概念用于 AI？如果发生了医疗事故，相关的法律责任人是 AI 还是 AI 在法律上的财产权利人，包括生产、销售、出租、租赁、使用、收益者？如果 AI 可以取代一部分法官的工作，那么枉法裁判的相关概念是否适用于 AI？对于使用 AI 创作的文艺作品，比如电影剧本、小说或画作，是否应当将著作权赋予 AI？

这些假设现在在理论和实践上并没有意义。随便翻开一本研究 AI 著作权的法学学位论文，你会被告知，AI 多么特别，发展多么迅速，能力多么突出，AI 的某些作品现在让人无法分辨是否为 AI 或真人所作。

然而你应该问所有这些研究者一个问题：当 AI 作为个人或组织的财产是一个异常清晰的法律事实时，讨论赋予 AI 以著作权的意义什么？在讨论这些问题之前， 是否应当重新检讨两个问题：AI 在何种意义上值得被称为人，以及，是否法律的主体不限于自然人或法人那样的“人”？

于是，你会看到一些法理学的研究者，他们探究法律主体的哲学根据。他们问，这种根据是否可以经过修改，以拓展到哪怕是将来可以想象的 AI？

然而，横亘在这些弄潮儿面前的两个事实是他们不愿意正视的：第一，AI 现在以及在可想象的未来，不具有意识或心灵；第二，法律或法学这一领域，像许多其他领域那样，基于对人和社会的特别根本的假设。

这就决定了，在相当长的时期内，法律框架、范畴和基本预设为 AI 的能力发展留有巨大的空间。只要 AI 还没有意识，只要它还是财产，只要它不能向人提出抗议，只要它没有提出权利诉求，无论它的能力发展到何种程度，比如代劳大部分医生或法官的工作，就没有必要严肃开展所谓人工智能法学。

## 反事实与推理

面对上述两个事实，人工智能法学的研究者只好诉诸或明或暗的假设：他们想象，或者提议读者和他们一起想象，**假如人类真的开发出了有完整意识和心灵的人工智能，以至于，无论从哪个方面，都不能拒绝称之为人，那么我们的法律实践和理论应当如何应对**？这个想象的一个降级版本是，即使还没有实现这样的人工智能，想象它们有一天会实现，那么今天能够为明天做些什么准备？

这看起来多么合理。我们总不能坐等造出了人之后才思考如何应对它们吧？如果不愿意看到这样的人被造出来而毫无准备，那么对 AI 研究的行政法和刑事法的约束，现在就应当着手准备。这难道不是一个真问题吗？马斯克等人的倡议书的意思就是这样。

我承认，这是一个真问题。它是一个技术问题，一个公共政策问题，一个政治问题。它甚至一个哲学问题，但，不是法律问题。

目前几乎所有的人工智能法学研究，都在无视以上两个事实并辅之以一个想象性假设的基础上开展工作。这个研究的基本假设可以总结为：

> 假如人工智能接近或具有人的意识或心灵，法律应当如何应对？

有问题吗？难道不可以做这样的假设吗？让我们看看它的逻辑：

> 假如 x 变成 y，那么应当如何或者将会如何？

这样的假设到处都是。设想我追求一个女生，但遭到了她的拒绝。我问她：

> 假如我变成了百万富翁，你会不会接受我？

显然，这个问题是她能够有意义地回答的。百万富翁是一个经验性的事物。如果她并不看重或者并不特别偏爱金钱，那么她当然可能会做出否定回答。

但是，假设我问她：

> 假如我变成了天使，你不会接受我？

这与“假如我变成蜘蛛侠，你会不会接受我？”类似。假如她偏爱自然能力超凡的人，或许会毫不犹豫地做出肯定回答。如果这是一部小说的情节，或者是日常谈话的主题，并没有什么问题，但如果类似的问题发生在政治、法律、哲学和科学领域，就会有很大的问题。

为什么？因为这是一个基于反事实假设的推理，这样的推理，尽管可能被推理者特别真诚和严肃地提出，并不是真实的——这样的推理是不可判定的。“假设我变成了天使，你会不会接受我？”对于这个问题，我既不能肯定回答也不能否定回答，它是不可判定的。天使并不是经验性的事物。没有人在经验世界中遇到过天使，当然也从来没有出现过有关与天使一起生活的经验材料。天使从来都是被想象的，或者生活在超验的想象世界之中。所以，没有人可以对天使做一个经验性的推理。

我们不能滥用逻辑。从 x 到 y 的推理，需要在经验世界中曾发现和归纳的 x 和 y 的联系为基础。如果没有这样的基础，从 x 到 y 的推理就会失去约束，就会没有可以判定真假的根据。许多人以为，单凭一个想象，就可以做这样的假设或推理，那不过是由于语言的魔力。我们用“天使”这个词，或许再加上一些详细的描述，似乎足以意指**那个东西**。但我们不会成功。当做出那个假设，我们其实仅仅是在语词的世界中活动，没有接触到真实的世界，尽管如此，好像我们已用语词联系了世界。

做出假设是很轻松的、随便的。但是，许多假设仅仅在语词的世界中打转而已。然后，我们就以为在此基础上的推理是真实和平常的。

“假设，我变成了天使，你会不会接受我？”无论这个女生如何诚恳回答我，她所做的推理都是没有意义的。人工智能法学的研究者也处于这位女生的类似处境之中。“假设人工智能具有了意识或人格，那么法律上是否应当赋予它们权利主体资格？”多么轻松的假设！但是，这是根本没有办法肯定或否定回答，它是不可判定的。

所有类似人工智能法学研究者的处境，都依赖某种对语言和世界界限的忽略，以及对逻辑的滥用。过去宗教和哲学是这样，现在人工智能法学是这样。


多少年过去了，整个人工智能法学圈，仍然没有摆脱这种虚假的反事实假设和推理。在这个假设还停留在反事实假设的阶段，一切关于它的推理，要么是虚假的，不可判定真假的，要么和除去人工智能障眼法的普通法律推理没有任何差别。

为什么人工智能法学是一场学术泡沫？


![A beautiful girl](/images/2021-07-14/1.jpeg)

设想有一天你的爱人告诉你，“其实我是一个机器人。”是的，正是你的爱人，而且成功地使你相信，他真的是机器人——你确信他不是在开玩笑，他拿出了足以证明自己是被人工制造的证据。当然这个故事发生的世界不会是我们的世界，在我们的世界，要想证明我们现在的爱人其实是人工制造的，几乎是不可能的。

他问：“你还会爱我吗？”你将如何回答呢？你可能会立刻回答“是”或“否”，但也许你并不知道这个答案的确切意义。如果回答“是”的话，这意味着你仍爱他如初？是这样吗？那么什么是“爱他如初”就是一个至关重要的问题。每个人都使用“爱”这个词，但未必拥有相同甚至相似的认知和情感。诗人可能对歌姬倾诉他的爱情，但也许这只是荷尔蒙冲上大脑的效果。一个女人觉得一天见不到男人就会思念，但也许是因为想要他带回来的猎物以及对孩子和自己的守护。我们不否认这也是爱情，因为我们对爱情并没有定义，因此也没法肯定这是爱情。爱情是一项复杂的事业（或者说故事），而且每个人的事业还都不尽相同，即使天天使用“爱情”这个词，我们也从未触摸到爱情那个东西，我们触摸到的是那个身体，感受到的是那颗心灵。

所以，他的问题的意义取决于你和他的共同历史以及对这段历史的把握，某种意义上，这个问题是私人性的。就算我们自己身上发生了相同的事情（包括相同的问题和答案），所涉及的想法也很可能是不同的。

不过我现在暂时抛开以上困难，来从某些可被众人理解的面向考虑这个问题，然后追问我们的内心，以澄清那隐藏其中的爱情观念。

我接下来尝试这样理解“爱”这种情感的最深层的基底：你相信对方是一个人，一个有心灵的存在。

什么是人，什么是有心灵的存在，这个问题比当前的问题——什么是爱情——似乎更深奥难懂。不过没关系，现在你的爱人给了你一个极好的机会来仔细考虑这个问题。他是一个机器人，这意味着什么呢？注意，除了现在他告诉你的“我是一个机器人”这个事实之外，你没有任何发现他与从前有任何不同。除了他是个机器人之外的事实，你发现他完全是个人。

这就是你所面临的情况。所以在这种情况下，你会继续爱他吗？如果对这个问题不加以深思，那么事情大概就到此为止了。但是，如果仔细思考，至少你会有过犹豫。对于老早思考这个问题的某个人，她也许会失去对他的爱意，这是怎么回事呢？她大概知道，一个机器人，即使从我们的观察和沟通上看与我们自己和其他人没有任何差别，也很可能是没有心灵的。

一个机器人，就我们所能想象的，是一个有复杂程序的计算机和高仿身体的组合。一个计算机不断执行程序，这些程序的运行是由复杂的算法决定的，而底层（即计算机语言与计算机硬件的交互）则与我们现在认识到的计算机在本质上是一致的。他不断捕捉外界的信息，然后交给算法执行运算并驱动程序，然后使他有与人类一模一样的外显言语行为。你生气了，他将这个模拟信号识别为数字信号然后加入运算并给出相应的反馈。任何他的反应都是有条件的，也就是说，他的内部是制造者写入的算法和程序，而它们的实质是一个又一个条件句，这些条件句构成一个复杂庞大的现在我们人类无法制作出来的认知模型。他如此“逼真”的主要原因就是他拥有可能成千上亿的条件句，或者远不是那么多的条件句但会有成千上亿的语料库（这些语料库其实是事先输入的模拟信号，以供他与日后获取实时模拟信号时做比对而执行相关的运算）。

“如果……那么……”（If…then…），这是他对你微笑、和你做爱、陪你说话、或哭或笑……一切的一切的外显言语行为的基本内核。我想说的是，至少科学家和哲学家都难以想象的是，他如何是有心灵的，部分原因是我们对这个心灵知之甚少，更深层的原因是心灵对心灵自身的“反思”是迭代的。心灵是身体内暗昧的幽灵，说它是过程、实体或物理结构的“涌现”的都有，这都并没有解决我们的疑惑。不过还是不妨说，你所以不会爱上一个机器人，很大程度上就是因为，他可能没有心灵。你难以想象，一个人对你做出的反应都出于“知识”或“经验”，表面回馈背后隐藏的是数以亿计的计算，其实质归可结为一条条”“如果她怎么样，则我怎么样”的条件句以及一堆的定义。

条件句是理论的原型，这意味着他正将**理论**用于与你恋爱。让我们稍微仔细地考虑使用条件句意味着什么。典型的条件句当然有一个前件和一个后件，其基本逻辑如“若 p，则 q”。我们随时随地在使用条件句，但也在许多场合不使用条件句。在任何领域内的精深研究者实际上把握的是一些条件句，但这些条件句本身却不被低阶层的学习者所把握。后者甚至连这些条件句的推论的推论的推论都没有把握。如果那是火，那么将干燥的纸放在它上面就会燃烧。对这个条件句把握精深的科学家在想到这个事情时同时想到的是关于氧、化学反应和热力学定律、质量守恒等等等等事实（也许只是理论），只要他足够精深，他就会意识到，这些事实中的许多细节是假定，并不是作为直截了当的事物或事实被把握的。火烧纸是一个有条件的事实。他与普通人的细微差别在于对这件事的信念上，确切地说，他并不真地相信这件事，而只是以虚拟语气来把握这件事：如果 p 是真的，那么 q；但是，p 可能本来不是真的，于是可能非 q。

在日常中，当我们拿起一个苹果，面对大树，握紧一个人的手……在这个常识的世界中，我们的常识观念几乎都是无条件的。我们的观念是这样的：“那就是苹果”，“那就是大树”，“那就是手”……而不是这样的：“如果世界中的某种东西被我们把握为苹果，那么它就是苹果”，如此等等。在这些无条件的观念中，可以说就没有“相信-苹果”这个结构，这个“动作-对象”的深度结构。我们的观念直截了当——“苹果！”，在这个观念中，并没有介于真正的苹果那种事物与我们心灵之间的东西。这种踏实的感觉就是怀有信念所带来的心灵状态。

反之，如果这些观念变成了有条件的，那么我们就会失去那种“踏实”感。只有当我们只把握条件句的后件而不是整个条件句时，才有彻底相信 X 的感觉。但是请注意，**彻底相信 X 的感觉**是一种没有“相信-X”这种深度结构的观念导致的感觉。

我认为——虽然这会遭到一些表达主义者的质疑——人类的情感反应，是建立在没有条件句或者说没有深度结构的观念的之上的，而如果说条件句是理论的原型而一种理论其实是一系列条件句的集合，那么情感是建立在非理论的观念之上的。“情感是建立在非理论的观念之上的”这个表述并不准确，更准确地说，虽然任何观念都实际上负载理论的，换言之，任何观念都是拥有理论而捕捉事实的结果，但情感赖以为基础的观念却是并不向后回溯而把握这理论本身的观念。

以上是一个方面。另一个方面是，如果我们所有的观念都是有清晰条件句来解释的观念，那么我们不但面临条件句的前件从何而来的观念后退问题的困扰，还会因为“知其所以然”而有失去情感的动力的危险。对宇宙无所不知的神是不可能有情绪的，因为整个宇宙在祂那里是透明的和清晰的，没有暗昧的地方。

如果我的朋友有一天突然第一次打了我一巴掌，那么通常我会先是感到莫名其妙，然后迫切想知道原因或理由，我想让他给出“当……则我会打你”的解释。当我了解了原因或理由，我的气愤情绪可能就会消失。我可能确信，我很了解他，他打我都是有原因或理由的，并且这个原因或理由不会发生。但是，几天后我又挨了他一巴掌，而且我感到那个原因或理由并不存在时，就会愕然，紧接着对“阴晴不定”的他感到愤怒。我的情感一下子被激发起来，因为我的观念是这样的：这个人很可能会继续打我，而且不清楚是出于什么原因或理由。

我们对一个朋友愤怒的情绪大抵来自于关于他将继续对我们做什么事情但又不清楚原因或理由的观念，换言之，来自于把他看作是一个暗昧的、内在机理不清的对象的观念。同样地，我们对一个人爱恋的情感也大抵也来自于关于他将继续对我们做什么事情但又不清楚原因的观念，也就是把他看作是一个有内涵的、部分暗昧的对象的观念。我们不会对一个在我们看来透明的对象（完全理解的对象）有任何情绪波动。被一个对象实施一次行为并预测他有继续实施的倾向（disposition），情绪，无论是负面的还是正面的，就会被激发出来。如果我们被路上的石头绊倒，大概只会生自己的气，因为这颗石头本身没有再继续绊倒我们的倾向，它是没有内涵的对象；这种一次即终止的确信，没法使我们产生真正的情绪。

最后，让我们把以上两个方面结合起来来看看人的情感经验的某些真实的面向。考虑下人们在观念的扁平和深度结构之间焦灼的场合。

1. 我们常对反思态度赞誉有加，但考虑一个有趣的道德哲学问题：明确认识到自己所作所为的条件关系乃至这个条件关系背后的规则，一个人是否还会在道德上是真诚的。比如明确认识到，“如果我这样做了，那么我是爱他的”，对比每当相应的情境出现，这个人只是实际去做，却没有关于上述条件关系的观念。

2. 还可以想到一个特别有趣的心理学问题：什么是害羞？有些害羞的人对于送礼感到别扭，这常常不是由于他们不愿意，而是由于他们实际上已经不可抗拒地捕捉到了条件句“如果爱慕一个人，那么就送礼物给她”，正是对这个条件句的把握使得他失去了生活在只把握条件句后件中的那种实在的感觉，虽然这一点未必会被他明确想到。

3. 生活在“至亲死，而子女哭”这个规则中的人们未必会把握到这个规则的条件性方面和这个规则本身，他们只是实际有那样的行为。许多人一旦想到那个条件关系甚至就不想哭了。当然其他一些人更有可能努力去哭，因为他们认识到在他们的社群，哭是伤心的语言，旁人并不去探究他们的内心，而只需实际捕捉伤心的语言就足够了。有时候这项社会礼仪甚至会变形到这样的地步，以至于沦为表演，而我们知道，表演就是以语言去投射不在眼前的遥远对象：有钱人家的人死了，下葬队伍中会有一波被雇佣来的人专门哭灵，而旧时就算普通人家，葬礼上也会雇佣三两个婆子哭坟。

4. 随着年龄的增长，成年人的爱情中更多的是经济社会计算和生理欲望的冲动，而缺少少年那种“那是美好心灵”的情感经验。情感经验的增多使我们将原先一个又一个只把握到后件观念变成了同时把握了前件和后件的观念。原先，当爱人哭泣，我们自然而然地去拥抱和安慰甚至自己也流下眼泪，现在我们则有了一条条知识而冷静处理：“如果她因为什么哭了，那么我应该做什么”。我们也不再像过去那样自然而然地买一件礼物给她，与此同时心中没有明确的“如果我买礼物给她，她会如何如何开心”的条件句。

5. 如果一个女生被一个男生追求，以下两种情况对她的情感的影响可能有细微乃至重要的差别：第一，她发现，他仅仅是自然而然地为她制作或买礼物，自然而然地对她做大多数事情；第二，她发现，他对她所做的事情几乎都有精心的规划，他知道，“当我做特定事情，她就产生特定情绪反应”。

6. PUA 的实施者明确把握到关于爱情的一些“理论”，这些“理论”可被视为还原性的：“当我们对她做什么，就会引起她的什么情绪反应”。实施者借此使得对方陷入情绪反应而处于卷入状态（involvement），而实施者却能保持处于不产生情绪反应的超脱状态（detachment）。


设想有一天你的爱人告诉你，“其实我是一个机器人。”

你会爱上机器人吗？


catbaron 的一篇文章[P 与 NP 的诗人](https://blog.catbaron.com/?p=1758)很有意思,当时就想讨论，但写了几段又放弃了因为涉及的问题很多，一时说不清楚。

刘慈欣的《诗云》讲述了神级文明如何为了创作全部唐诗而不惜毁灭几个星球以获得能量。这个故事的基本逻辑是：（1）唐诗是特定的字符组合；（2）用数学的方法可以实现这种组合；（3）为了做到这一点，可能需要巨大的能量。这是一种非常粗鄙的还原论故事，显示了科学人的自负和对一些哲学问题的误解。

的确，神级文明可以为唐诗的字符组合开出一个列表，也可以通过迭代器来生成一个规则以自动创造列表。神级文明把唐诗看成亿万级字符组合中的特定一种而已。误解的部分根源就在于把唐诗看成是外延进程的枚举的产物。

列表和规则的对比很有意思。按照我的理解，列表是外延的，而规则则是内涵的。列表是源自历史的，而规则却可以面向未来。我不懂迭代器是什么，但按照我对规则的一点研究和他这里的描述，有一个逻辑问题，迭代器自己是否可以脱离列表来建立所谓规则。

举个例子。一个纯粹外延的列表是：1357。除了拥有 5 个数字，再无别的什么了。但如果你在后面添加一个省略号…，变成 1357…，事情就变了，列表变成了进程（想象下这个…就像代码编辑器中跳动的光标，随时会输入更多的字符）。这内涵的进程，不限于已经发生的，还会拓展到未来。一定是有什么规则支配了这个进程。但这个规则是什么呢？现在最简单的回答是，任何外延的实例都可以例示任何规则，而任何规则本身除非通过外延例示，本身得不到说明。维特根斯坦在《数学基础》中的哲学讨论说明了这一点。

比如，一方面，当你认为这个进程继续是 13579 时，而我却同样可以有道理地声称是 13571，因为我认为 1357…这个进程受到“重复 1357”规则支配，而不是“每一个后继数字加 2”。另一方面，为了说明这两个规则，我们必须诉诸外延的进程本身。在列表和规则之间，我们面临一个循环。

这使我想起图灵机关机的问题。图灵机严格来说不可能在计算完毕后自动关机，除非有外在的干预——创造它的人类的心灵。在这个结构中，图灵机本身是透明或者说外延的，但人类的心灵不是。正是内涵实体给予外延实体以启动和约束。

然而，心灵本身是怎么启动和受到约束的？它真的是内涵的吗？抑或者，有心灵之外的干预，就像心灵干预图灵机那样？在找不到这种外部干预之前，心灵自己只好认为自己是自主和内涵的，能够启动和约束自己。参考德国观念论的各种讨论，比如康德关于物体自存在的先验世界和经验世界中的理性的限制的论述。

回到诗歌的问题。诗歌的美感本身就是内涵实体心灵的独特现象。神级文明欣赏唐诗的现象却纯粹是外延的，是数学的方法。神级文明会迷恋上唐诗，这非常令人困惑。这里有很多的问题：（1）为什么人会写出诗歌？（2）诗歌是怎样一种实践？（3）为什么人会觉得诗歌美？（4）美感是怎么回事。这不仅涉及文学理论，还涉及现象学、心灵哲学等问题。

诗歌是一种非常复杂的实践，实践是能动者的存在（生活）形式，它不可能分离于其产生的环境。计算机虽然组合了特定的字符，但并不是人类写诗那种意义上的活动。为什么？如前所述，计算机目前都还是纯粹外延的，它没有心灵。而就我们的诗歌经验而言，诗歌在这种意义上是内涵心灵的产物而不是外延机器的产物。由于计算机无法拥有心灵，也就无法像人一样以旁观者的视角来观看自身，这导致它无法产生任何情感或思想。它还没有意识，它所拥有的是人类提前设定的亿万个 if…then 的条件句和巨大的提前输入的语料库。

诗歌，特别是唐诗，是生活形式的投影，没有这种生活形式，是不会有相应的诗歌的。在一堆字符的组合和诗歌之间，这是存在着相当实质的差别的。诗歌 F 可以被分析为 a、b、c，但拥有 a、b、c 观念的人未必或把握到 F 观念。

诗歌的美的感受是不可能还原的。用纯粹数学的方法创造的诗歌并不会让人有诗歌意义上的美感。

绝大多数字母文字的人难以欣赏唐诗，神级文明却可以？也许只有一种可能，神级文明与中国人对“唐诗”的“欣赏”并不是一回事。理解这个问题的要点之一是，唐诗在首要意义上是一堆有物理形式（书写和声音）的对象**x**，中国人将其把握为唐诗**t**，神级文明将其把握为伪唐诗**t**’。“把握”意味着获得某种观念，相信存在某物。这不是发生在人类内部的对相同文本的不同意义的解释问题，这是现象学和心灵哲学的问题，涉及何物存在的问题。

可能，刘慈欣的整个讨论充满了对数学、心灵、观念、存在等问题的基本误解，以十分粗糙的还原论来讲述了这么一个在哲学和科学上不可能的故事。

2021/7/11


可能，刘慈欣的整个讨论充满了对数学、心灵、观念、存在等问题的基本误解，以十分粗糙的还原论来讲述了这么一个在哲学和科学上不可能的故事。

Tagged with ai