苏菲拉底 向最好的头脑提问
文库

Consciousness in Artificial Intelligence | John Searle | Talks at Google

「意识是主观的」为何不妨碍它成为客观科学的研究对象?模拟一场思维过程,为什么不等于真的拥有思维? 节目发布 2015-12-03 约翰·塞尔 雷·库兹韦尔 约翰·布拉卡利亚
来源:https://www.youtube.com/watch?v=rHKwIYsPXLg · 内容由苏菲拉底翻译整理,仅供个人学习使用
本期讲者
约翰·塞尔加州大学伯克利分校斯拉瑟哲学讲席教授,语言哲学与心灵哲学代表人物,曾获让·尼科奖和美国国家人文奖章。1980 年提出「中文房间」论证,是对强人工智能最著名的哲学反驳。
雷·库兹韦尔发明家、未来学家,时任谷歌工程总监,《奇点临近》作者,以「技术奇点」预测和对强 AI 的乐观立场著称,是塞尔的长期论辩对手。
约翰·布拉卡利亚谷歌 YouTube 运营部门员工,谷歌内部 AI 讨论小组「奇点网络」负责人,本场活动主持人。

这期还没有生成总结。

核心句型 · 9
1. be systematically ambiguous between X and Y
“They're systematically ambiguous. between an epistemic sense and an ontological sense”
指一个词在两种含义之间系统性摇摆。学术写作中辨析概念歧义的标准句式,可仿写:The term is ambiguous between A and B。
2. X only exists insofar as ...
“They only exist insofar as they are experienced by a subject”
insofar as 表「仅在…的限度内」,正式书面语。用于精确限定某命题成立的条件,比 only when 更学术。
3. Unknown to me, ...
“Unknown to me, the boxes are called a database, and the rule book is called a program.”
句首插入语,制造「当事人不知情」的视角反差,叙事中常用。同类结构:Unbeknownst to him, ...。
4. All the same, ...
“All the same, I don't understand a word of Chinese.”
表让步转折「尽管如此」,比 however 口语化、比 anyway 正式。用在承认前述条件后仍坚持结论时。
5. The bottom line is (that) ...
“The bottom line is if I don't understand the questions and the answers on the basis of implementing the program, then neither does any other digital computer”
「归根结底、最要紧的结论是」。演讲中收束长论证、给出核心要点的高频句式。
6. What goes for X goes for Y
“And what goes for intelligence goes for all of the key notions in cognitive science.”
「适用于 X 的道理同样适用于 Y」,把已证结论类推到更大范围的地道表达,比 the same applies to 更生动。
7. The question is not ..., the question is ...
“The question is not, what can the technology do?. The question is, what does it mean?”
先否定错误的问题框架,再给出正确问题。辩论与演讲中「重设议题」的经典修辞结构。
8. It's (about) like saying ...
“It's about like saying the shoes might get up out of the closet and walk all over us.”
归谬类比:把对方观点翻译成一个显然荒谬的等价说法。反驳时的常用武器,注意语气略带讥讽。
9. there's no obstacle in principle
“But there's no obstacle in principle”
「原则上不存在障碍」。in principle 与 in practice 相对,区分理论可能与实践现状,学术讨论必备。
本期生词 · 100
polysyllabic /ˌpɑːlisɪˈlæbɪk/ adj. 1:49
多音节的(塞尔自嘲爱用大词)
epistemic /ˌepɪˈstemɪk/ adj. 1:49
认识论的,与知识有关的
ontological /ˌɑːntəˈlɑːdʒɪkl/ adj. 1:49
本体论的,与存在方式有关的
ambiguous /æmˈbɪɡjuəs/ adj. 1:49
有歧义的,模棱两可的
abbreviate /əˈbriːvieɪt/ v. 2:27
缩写,简写
tectonic plates phr. 3:14
(地质)构造板块
insofar as phr. 3:14
在…的限度内;只有当…(正式书面语)
admit of phr. 3:14
容许有,容纳(正式用法,主语多为事物)
fallacy /ˈfæləsi/ n. 4:05
谬误;fallacy of ambiguity 歧义谬误
preclude /prɪˈkluːd/ v. 4:39
排除,使不可能(preclude A from B)
appalled /əˈpɔːld/ adj. 7:11
震惊的,骇然的
marginal revenue phr. 7:11
(经济学)边际收益
cognition /kɑːɡˈnɪʃn/ n. 7:45
认知,认识过程
platitudes /ˈplætətuːdz/ n. 8:37
陈词滥调,老生常谈
behaviorism /bɪˈheɪvjərɪzəm/ n. 8:37
(心理学)行为主义
burned to a crisp phr. 9:57
烧得焦脆,烤得焦黑
stormed out phr. v. 9:57
怒气冲冲地夺门而出
refute /rɪˈfjuːt/ v. 11:02
驳倒,反驳
shuffle /ˈʃʌfl/ v. 11:40
挪动,来回摆弄(本义为洗牌)
indistinguishable /ˌɪndɪˈstɪŋɡwɪʃəbl/ adj. 11:40
无法区分的(+from)
syntactical /sɪnˈtæktɪkl/ adj. 12:13
句法的,语形的(与语义相对)
equivalence class phr. 12:13
(数学)等价类
semantics /səˈmæntɪks/ n. 12:53
语义;语义学(与 syntax 句法相对)
duplication /ˌduːplɪˈkeɪʃn/ n. 14:02
复制,复现(与 simulation 模拟相对)
breathtaking /ˈbreθteɪkɪŋ/ adj. 14:43
惊人的,令人叹为观止的(此处为反讽)
preposterousness /prɪˈpɑːstərəsnəs/ n. 14:43
荒谬,荒诞不经
contempt /kənˈtempt/ n. 15:18
轻蔑,鄙视(with contempt 轻蔑地)
feeble /ˈfiːbl/ adj. 16:36
无力的,站不住脚的(形容论证)
overthrow /ˌoʊvərˈθroʊ/ v. 19:37
推翻,颠覆(政权等)
oppressed /əˈprest/ adj. 19:37
受压迫的
intrinsic /ɪnˈtrɪnsɪk/ adj. 21:08
内在固有的(本讲座核心术语,与观察者相对相对立)
in the eye of the beholder phr. 21:08
取决于观察者,见仁见智(源自谚语「情人眼里出西施」)
brought home phr. 22:03
bring sth home to sb 使某人深切体会到
pawn /pɔːn/ n. 22:03
(国际象棋)兵;喻指棋子、被利用者
attributions /ˌætrəˈbjuːʃnz/ n. 22:42
归属,归因(把某性质归于某物)
line of business phr. 24:02
行当,范畴(not in the same line of business 不属同类)
crunch line phr. 25:16
关键点,紧要处(crunch 指关键时刻)
implausible /ɪmˈplɔːzəbl/ adj. 27:58
难以置信的,不合情理的
apparatus /ˌæpəˈrætəs/ n. 29:59
装置;(引申)概念工具、体系
obsolete /ˌɑːbsəˈliːt/ adj. 29:59
过时的,废弃的
causal powers phr. 31:45
因果能力(塞尔核心术语:大脑产生意识的实际能力)
neurotransmitters /ˌnʊroʊˈtrænzmɪtərz/ n. 32:52
神经递质
ascribe /əˈskraɪb/ v. 35:09
把…归于(ascribe A to B)
razzmatazz /ˈræzmətæz/ n. 36:32
花哨的噱头;唬人的行话(非正式)
snow /snoʊ/ v. 36:32
(美俚)用花言巧语蒙骗、唬住
transducer /trænsˈduːsər/ n. 36:32
换能器,传感器
get across phr. v. 37:56
把(观点)讲清楚,传达
longevity /lɔːnˈdʒevəti/ n. 38:55
长寿;持久的生命力
deterministic /dɪˌtɜːrməˈnɪstɪk/ adj. 38:55
确定性的(给定输入必得同一输出)
absurdity /əbˈsɜːrdəti/ n. 38:55
荒谬,悖理
lactation /lækˈteɪʃn/ n. 40:24
泌乳
photosynthesis /ˌfoʊtoʊˈsɪnθəsɪs/ n. 40:24
光合作用
mitosis /maɪˈtoʊsɪs/ n. 40:24
(细胞)有丝分裂
synaptic cleft phr. 42:23
突触间隙(神经元之间传递递质的空隙)
mess around phr. v. 42:23
乱动,瞎鼓捣(mess around in/with)
flunking /ˈflʌŋkɪŋ/ v. 42:23
flunk(美口语)考砸,不及格
postsynaptic receptors phr. 42:23
突触后受体
mediate /ˈmiːdieɪt/ v. 44:20
传导,介导(在两者之间起中介作用)
termite /ˈtɜːrmaɪt/ n. 44:53
白蚁
presupposition /ˌpriːˌsʌpəˈzɪʃn/ n. 45:29
预设,前提假定
angst /ɑːŋst/ n. 45:29
(存在主义式的)焦虑,忧惧(源自德语)
philistine /ˈfɪləstiːn/ n. 45:29
庸人,不解风雅、无文化追求的人
isomorphic /ˌaɪsəˈmɔːrfɪk/ adj. 48:16
同构的,结构一一对应的
perfect information phr. 48:16
(博弈论)完全信息:双方对局面全部可见
exponential /ˌekspəˈnenʃl/ adj. 48:58
指数的;the exponential problem 指数爆炸问题
to their credit phr. 48:58
值得称道的是,公道地说
snobbish /ˈsnɑːbɪʃ/ adj. 50:03
势利的,自命不凡的
shudder /ˈʃʌdər/ v. 50:03
战栗;shudder at the thought 一想到就不寒而栗
sentience /ˈsenʃəns/ n. 52:46
感知能力,有知觉(AI 伦理高频词)
ontology /ɑːnˈtɑːlədʒi/ n. 52:46
本体论;存在方式(subjective ontology 主观的存在方式)
whatnot /ˈwʌtnɑːt/ n. 53:51
诸如此类的东西(and whatnot 等等)
subscribe to phr. v. 53:51
赞同,信奉(理论、观点)
vitalists /ˈvaɪtəlɪsts/ n. 54:23
活力论者(主张生命需要非物质「生命力」)
axioms /ˈæksiəmz/ n. 56:26
公理,不证自明的前提
out of the question phr. 56:26
不可能的,无从谈起的
plausible /ˈplɔːzəbl/ adj. 56:26
貌似合理的,说得通的
false positives phr. 57:02
误报,假阳性(把无智能判为有智能)
prodigious /prəˈdɪdʒəs/ adj. 57:34
惊人的,巨大的
sparse /spɑːrs/ adj. 57:34
稀疏的,稀少的
article of faith phr. 58:15
信条;不加质疑而接受的信念
inert /ɪˈnɜːrt/ adj. 58:15
无生命的;(化学)惰性的
amoeba /əˈmiːbə/ n. 58:58
阿米巴虫,变形虫(单细胞生物)
emergent /ɪˈmɜːrdʒənt/ adj. 58:58
涌现的(由低层交互产生高层性质)
disassembly /ˌdɪsəˈsembli/ n. 61:50
(计算机)反汇编
decompiling /ˌdiːkəmˈpaɪlɪŋ/ v. 61:50
decompile 反编译
subroutines /ˈsʌbruːtiːnz/ n. 62:26
(程序)子例程,子程序
derivation /ˌderəˈveɪʃn/ n. 62:54
(逻辑)推导,演绎
pretentiously /prɪˈtenʃəsli/ adv. 62:54
装腔作势地,故作高深地
overwhelming evidence phr. 64:48
压倒性的证据(常用搭配)
anecdote /ˈænɪkdoʊt/ n. 65:51
轶事,趣闻
threshold /ˈθreʃhoʊld/ n. 65:51
阈值,门槛
perceptibility /pərˌseptəˈbɪləti/ n. 65:51
可感知性,可觉察度
thriving /ˈθraɪvɪŋ/ adj. 66:21
蓬勃发展的,兴旺的
nagged /næɡd/ v. 66:21
nag 唠叨,不停数落、催促
tenure /ˈtenjər/ n. 66:50
(大学)终身教职
neural correlates phr. 67:33
神经相关物(意识研究术语,缩写 NCC)
fruitful /ˈfruːtfl/ adj. 67:33
富有成效的
phenotype /ˈfiːnətaɪp/ n. 67:58
(遗传学)表型,表现型
unified field phr. 68:28
统一场(塞尔的意识理论:意识是一整块统一的场)
speculation /ˌspekjəˈleɪʃn/ n. 69:41
推测,思辨(尚无实证支持的猜想)
理解自测 · 8 题
1. 塞尔在开场铺垫的两组基础区分是什么?它们为什么重要?

一是认识论的客观/主观(知识主张能否独立于态度被验证),二是本体论的客观/主观(存在是否依赖主体体验);另有观察者独立/观察者相对之分(第3–12段)。它们说明:对本体论主观的意识仍可做认识论客观的科学研究。

2. 概括中文房间论证的核心推理。

程序是纯句法的;心灵有语义;句法本身不足以产生语义;因此仅靠运行程序(无论表现多好、甚至通过图灵测试)永远不足以构成理解(第17–22、102–103段)。

3. 对「系统回应」(是整个房间在理解中文)塞尔如何反驳?

房间和人一样无法从句法通达语义;说房间能理解,等于要求房间里存在另一个意识,而那种意识并不存在(第24–25段)。

4. 塞尔为什么说深蓝击败卡斯帕罗夫「没有心理学意义」?

深蓝靠每秒约2.5亿次的暴力计算取胜,对「自己在下棋」一无所知;对它的智能归属完全是观察者相对的,在内在意义上它的智能为零(第34–35、76–77段)。

5. 塞尔认为人类能否造出会思考的人造机器?条件是什么?

原则上可以,如同人工心脏——但必须复制(而非仅模拟)大脑产生意识的因果能力;目前的障碍是我们还不知道大脑如何做到,所以无从下手(第49–52、96段)。

6. 塞尔给出的意识工作定义是什么?

从无梦睡眠中醒来直到再次入睡之间的一切感受、感知与觉察状态(梦也算);其本质是处于该状态「有某种主观感受」,因此意识总具有主观的本体论(第84段)。

7. 塞尔如何回应「你怎么知道狗有意识而手机没有」的他心问题?

不靠行为标准,而靠因果机制的相似性:狗有与人相似的感官和神经机制;他并警告不要走「证据同等」的认识论路线,因为人与程序的机制证据并不对称(第68–69、80–81段)。

8. 在意识的神经科学研究上,塞尔更看好哪条路径?为什么?

相对「积木式」寻找单个体验的神经相关物,他更看好「统一场」路径:先解释大脑如何产生整个意识场,因为具体知觉只是修改既有的场,而非从无到有创造意识(第111–113段)。

苏菲拉底 向最好的头脑提问 · ASK THE BEST MINDS 私享文库 · 内容仅供个人学习