对数字人文主义的建设而言

在人类生活的各个领域，数字技术在诸多方面所引入的创新并不是很容易被精确地分开（如计算机、网络、机器人和人工智能）。这些创新在人类生活的各个领域中层出不穷，令人着迷。同时，所有这些方面引发了随之而来的相关问题。《公教文明》杂志最近一并处理了这些疑问。¹

一段时间以来，新技术的发现已经能够以非凡的效率执行人类生活的诸多任务。毫无疑问，电子计算机所保证的速度和效率，能够管理越来越多在日常生活里的运转。其中的一些操作似乎超出了人类的能力：特别是考虑到连接的组织、计算速度和数据库可访问的信息量。计算机的“内存”容量允许在短时间内检索信息（否则，将需要复杂而繁琐的过程）。

毫无疑问，不必否认这些优势。但是，当人们希望把越来越多的决策委托给机器时，另外一些方面将会被关注起来。绝非偶然的是，多数致力于此主题的电影、小说，以及各种科学论文都警告可能的“数字专政”，这将使人类沦为所造机器的奴隶。

我们意识到了这一问题的广泛性和复杂性，也意识到其跨越不同知识的相关性。在这项贡献中，我们会考虑人类生活中的某些特定领域，以及在这些领域中缺乏控制将导致的严重社会后果；在其他层面，人工智能的贡献可以给我们提供帮助，变得有用，并纠正人类的波动性。最后，我们将尝试说明，在质量层面，普通生活中的某些活动是如何显示出与人工智能相比具有不同的神秘复杂性。

自动化的光和影

在2012年，美国爱达荷州的几名残疾人突然发现，他们的医疗补贴发生了削减。之前，美国国务院已决定将预算评估委托给软件，并以这种计划的方式确定哪些人群将有权获得经济援助。随后，当国务院面对关于此事的抗议而不得不进行重新审查时，发现这个程序出现了结果高度任意性的状况：有些人的补贴无缘无故地出现了大幅度增加；对于另外一些人，即使他们正处于情况恶化的境地，其补贴也被削减了。美国商务部以专利保密性为由拒绝提供解释，并只限提供软件所阐述的内容。后来发现，当它诉诸法院时（经过4年的司法斗争，4000宗个人诉讼和集体诉讼），才得知所使用的程序质量低劣且充满了错误 —— 直至最终被正式认为非法。在这里，两个基本的错误对诸多人群的健康造成了严峻的后果：软件计算的错误，以及那些完全信任计算机，且拒绝进行审查的人员的错误。²

第二个示例，显示了人类的判断需要通过计算机来进行有效地纠正。法庭上辩论的案件交由法官处理，法官们的回答与一系列极为不同的要素有关 —— 这些要素不单单取决于能力、经验和对问题细节的了解，也仅归因于主观因素。如法官对被告的总体印象，或对他们的个人特征（教育水平、社会地位、种族和性别）的评估。以及，更简单地说，当下的情绪或当天的时间。对英国裁决进行的研究表明，“在法官们即刻休息后，获得保释的可能性较高；在法官吃零食前则有较低的可能性获得保释。”³

除了气质的差异，对案件的评估始终会暴露于一系列的随机变量下。在这方面，两名被告（尼古拉斯·罗宾逊和理查德·约翰逊）在2011年的伦敦骚乱所尝试过的事故拥有重大意义。尼古拉斯·罗宾逊（Nicholas Robinson）是一名工程专业的学生：在发生事故的那晚，他开车回家时感到些许口渴。随后，他看到一家超市的窗户出现了破损，他随即拿走了一瓶水，却没有意识到警察就在他身后。理查德·约翰逊（Richard Johnson）在得知百货商店遭受惨重破坏后，他拿走了电子游戏。理查德遮住了脸，因此没被认出来。两者均被捕并受审，结果却截然不同。尽管盗窃案规模很小，并且完全承认做了一件令人羞愧的事，但拥有良好记录的尼古拉斯被判处六个月的监禁。约翰逊虽然曾有犯罪预谋，其行为也同时助长了暴动，但却保住了自由：他被要求从事约三周的社会公益工作⁴。

这些不可预测的结果可变性揭示了刑事司法中最复杂和最具争议的问题之一。根据哪些参数来判刑？长期以来，对司法推理的主题进行了严格的研究和分析⁵。然而，尽管在这方面进行了大量的研究，但我们离人类主观性的许多怪异特征还依然遥远。关于此方面的一些研究结果有些令人不安：同一案件提交给美国弗吉尼亚州的47名法官，要求他们判处可能的刑期。那是一名未经审查的18岁女孩，她有足够数量的毒品以供出售。法官们的答复也种类繁多：29名法官认为她应被判无罪，8名申请了假释，4名选择了罚款，3名选择了罚款和假释，3名决定判决入狱。

在向81名英国法官提交的另一项假设案件中，记录了均等混合的变化，其中的一项假设案件拥有重大意义。这个假设案件向诸多法官提交了一个在之前已被试审过的案例，并只改变了受审者的姓名和性别。其结果是：几乎没有法官发表了同样的判决。最终审判的百分比，几乎是一个充满了运气的百分比（50％）：在实践中，投掷硬币也会得出相同的结论。因此，行使正义只是运气（或倒霉）的问题⁶？

使用算法（即计算方法）将使我们对情形，以及类似情况下的行为方式有更清晰的认识，从而提供一种“电子摘要”。让我们想想是否给予囚犯减刑或假释的决定。2019年11月29日在伦敦发生的事件显示出两难境地：那天，一名持刀的男子杀死了两人，炸伤了三人，随后被一些路人阻拦。这起恐怖事件的袭击者因恐怖主义而服刑不到一半的时间，目前正处缓刑期。解除了他凶器的一名“英雄”也受到缓刑：他因谋杀一名残疾女孩而被定罪。这种情形引起他家人的抗议，并提出了把他释放的要求⁷。

同一事件以象征性的方式说明了案件的变数：应根据哪些标准给予缓刑？使用算法是否可以帮助确定复审的可能性？或者，将那些真正决定洗心革面的犯人仍关押在监狱里？显然，最后的判决将始终由法官来作出。但是，概率的计算，以及类似案件的历史记忆可以提供有价值的见解，并为判决提供较低的波动基础。

但是，纯粹的特质仍然存在。即使是将来，即使是最复杂的机器，也似乎无法复制它们。

语言

人类语言具有巨大而神秘的复杂性，因为它不属于理论、程序或一系列累积的信息。它还包含了“无形的”维度，例如情感、想象力、幻想、符号、发音细微差别和关系。同时，在生命的最初几年很容易学会语言：幼儿不是凭连续不断的指示而开始牙牙学语的，而是因为他们拥有基本的结构：“一个5岁幼儿所表达的语言能力的复杂性，需要超过100年不中断的持续机器学习” ⁸。一百年的学习是不够的，但经过几年的学习，每个孩子都有能力说话。

有形的影响尤其重要。它不仅影响唇部系统的复杂性，也允许了多种声音和细微差别的舌头运动。儿童无法在屏幕学会说话，也不能通过观看录制的节目来学习说话。他们只有在与人的关系中，以及在与人接触中观察面部的细微差别时，知晓嘴唇的运动并聆听声音⁹。正如丹尼尔·西格尔（Daniel Siegel）所指出的那样，人类思想在情感关系中发生了变化和发展，从而产生了新的突触和联系。他们从这些经验中掌握了进一步的含义 ¹⁰。

语言和心理健康

肯塔基大学对678名年龄在75至107岁之间的修女（属于圣母学校修会）的一项研究表明，语言及其属性可以表明其健康与否。该研究的目的，是将生活方式的特征（在一天中的时间、道德和宗教价值观的存在、营养和共享活动）与心理健康状况进行比较。该协议条款还规定，修女们一旦去世，就将捐献她们的大脑，以分析疾病的可能迹象 —— 特别是阿尔茨海默氏病（也称老年性痴呆症，译注）。

但是，研究人员更看重的，是他们可以依靠的另一个宝贵参数：修女的作品。进入修会后，修会会长请所有候选人书写自己的传记。因此，比较初学修女的表达能力与她们心理健康状况的回忆成为可能。这个过程将在接下来的几十年中展现。结果表明，这些著作的语言质量（无论所接受的教育水平如何）与患上精神疾病的可能性之间存在着显着的融合，并构成了令人惊讶的预后指标：«90％的患有阿尔茨海默氏病的修女表明，他们青年时代‘语言能力有限’，甚至在年老时仍保留认知能力的修女中，只有13％的文作‘概念密度低’»¹¹。

研究人员还希望了解，这两个因素中的哪一个会相互影响：换句话说，内省和沟通水平的低下是否容易导致精神疾病；或相反，这不是持续赤字的影响（在这种情况下，从小就可能出现阿尔茨海默氏病等疾病）。仍然值得注意的，是两者之间的相关性。

沟通和理解

语言与心理健康之间的关系，涉及到了人类语言本质上生物学的、有形的、拥有生命的维度。其语义提出了一组极为复杂且不可编码的规则，但同时却众所周知。从这个角度来看，机器或机器人永远不会像人类一样“说话”，因为他们不懂语言，而是使用信息条码：机器中意识的可能性，指的是人类之间古老且不可分割的心灵大脑间关系，以及人类身心与身体之间的复杂关系问题。除了涉及到存在较大差异的学科（如哲学、语言学、心理学、精神分析、神经学、遗传学、物理学、化学和神经科学的整个领域）以外的主题，它们显示了形态各异且矛盾的假设和理论，并确认了明确且普遍接受的结论。这个结论复杂且有难度，消除两个术语之一——心灵——的尝试甚至都未成功。与大脑不同，心灵具有多项难以定义的含义（如意识和灵魂）。并且，它们的成因并非归因于大脑，而是与整个有机体有关¹²。人们想知道的是，对于人工智能来说，该机器除了“大脑”外，是否还可以具有一种“意识”，或一种良知，它在体内与躯体间拥有着密切的关系¹³。

为了理解这种基本差异，心灵哲学家约翰·塞尔（John Searle）设计了一个出名的思想实验，称为“中国房间”。一名志愿者被安置在一个房间里，那里没有中文文本。然后，他会收到一份说明手册，该手册指出应使用哪些符号来响应每个写有中文的字条。最后，即使志愿者没有任何中文知识，答案也将被正确地表述。这个室内实验显示出了人类语言和计算机程序之间的差异：在计算机程序中，信息条被接收和发送,而不必要被理解。

程序使用一种过程，语言却主要指单词的含义和对符号的使用。语言学中的术语包含在“语义学”一词中，而计算机程序中则不存在这些 —— 正是因为它不是“可编程的”。最重要的是，语言具有生物学和情感上的内涵。正如我们指出的那样，这是语言学的一大谜团，同时也是人类的特殊之处。

塞尔对这方面的立场总结如下：« 1）程序是完全语法化的；2）头脑中存在语义；3）句法不是相同的事物，它本身不足以实现语义» ¹⁴。换句话说，程序与意义之间存在本质上的飞跃。与机器不同，人类不是通过算法编程的。由于这个原因，术语“出现”（在某种意义上是发生的，是多余的）主要用于指示人类思想的一个维度。它不仅是算法或机器无法还原的，甚至仅仅在物质层面也是无法还原的。¹⁵

斯坦利·库布里克（Stanley Kubrick）2001年著名的电影《太空漫游》（A Space Odyssey）就成为了这种质量飞跃的例证。它呈现了宇航员与机载大型计算机哈儿9000(Hal 9000)之间的对话，此计算机可以完全控制所有操作。当指挥官决定将其卸载时，由于计算失误，哈儿9000开始杀死机组人员。幸存的宇航员徒劳无功，试图向它展示任务的意义，以及宇航员生命的价值。哈儿9000无法理解这些问题，并一直重复它的编程工作，直到链接断开。

机器有道德吗？

像语言一样，道德经验也表现出复杂性。因此，这对于将其带回详尽系统理论的尝试都是无法避免的。这个问题长期困扰着哲学家。康德在这方面的反思具有象征意义。他试图制定知识和行动的最高定律，但最终发现，自己不得不认识到道德的特征 —— 道德将自身表现为一种强加于自身的先验理想：它无法学习，同时它存在于所有人之中。

在《道德形而上学基础》中，康德用“绝对必要”一词概括了道德要求的复杂性 —— 它规范了经验，而同时又总是超越经验。他通过指出道德是一个谜来结束分析，因为不可能精确地指出所有可能性条件。道德在没有被完全意识到的情况下指导了选择。这也同时证明了人类的尊严。¹⁶

道德邪恶的经历也给出了类似的谜团。在《关于极端邪恶的文章》中，柯尼斯堡的哲学家（指康德，译注）认识到其根源并不在于无所适从，因为道德问题与可获得信息的范围无关。相反，理性常常需要干预。但奇怪的是，它却放弃了干预。为何如此？康德无法说明。但是可以肯定的是，这不是一个关于无知的问题，而是一个关于恶的问题¹⁷。这就是为什么道德经验（换句话说，善与恶的存在）是掩盖了人类行动的一种纯粹理性方法。这个不可思议的“背景”是不可被简化的：“这种邪恶是激进的，因为它破坏了所有格言的原则；另一方面，作为自然的趋势，它不能被人类破坏 —— 除非通过善行，否则这是不可能发生的。如果所有格言的最高主观原则都是腐败的前提[…]。对我们来说，没有任何可以理解的原因能使道德邪恶首次出现在我们体内” ¹⁸。

类似于学习语言的方式，道德上也存在一种“普遍语法”。良心无法获得这种语法，它只在自身中发现，并且与能力，情感的联系更多。实际上，情感偏激的人在这方面存在不足。安东尼奥·达马西奥（Antonio Damasio）在神经脑科学领域进行的研究表明：前脑叶白质切除术，即去除大脑新皮层的额叶（情感位）如何导致评估能力的严重不足，并同时否认了一个普遍存在的偏见：即，一个冷漠无情的头脑，将是作出明智决定的最佳状态。实际上，恰恰相反。达马西奥涉及一名病人埃利奥特（Elliot），他在进行了前脑叶白质切除术（为了切除了肿瘤）后保持了自己的智力、语言、沟通和理解能力，但变得完全没有感情。 这种剥夺使他成为“最冷酷，情感最淡薄的智者，但是他在实际生活中的理性却受到了损害，以至于在日常生活中产生了一系列的错误和永久性的损失。从个人角度来看，就您和我而言，这些情感在社会上是合适且有利的。¹⁹

达马西奥补充说，如果在成长时就受到伤害，人们甚至无法学习道德的基本规则。这位葡萄牙医生的结论是：道德行为在本质上与情感有关。在情感缺失的情况下，道德不能通过任何形式的教育来作出补偿：“因此，缺乏情感和感觉的危害程度同样令人感到新颖和惊讶，它们同样也有能力特别破坏人的理性。同时，它们让我们能够根据个人的未来、社会习俗和道德做出和谐的决定。这并不等于说，是情感在采取行动时为我们做出了决定，或者我们不是理性的。我只是建议，情感和感觉过程的某些方面对于理性是必不可少的。”²⁰

康德的分析和达马西奥的研究可以帮助我们确定人工智能进行方式的另一个重大区别：这就是所谓的“道德困境”。

道德困境

伦理困境与对双重效应（又称有轨电车难题，译注）的反思有关²¹。双重效应首先由英国哲学家菲利帕·露丝·富特（Philippa Ruth Foot）提出而声名远扬。她以一个可能导致一群工人陷入危险的失控铁路运输车为例。谁也没法警告这些工人，但是可以操作一个用于更换轨道的操作杆，该操作杆会将运输车带到只有一名工人的轨道上。这种对较小之恶的选择虽然是可怕的，但却不可避免。这种差异不仅是数量上的（一群人对一个人），而且在责任方面也尤其重要。因为在后一种情况下，人故意地将手推车导向轨道，并会因此杀死那名工人 ²²。困境的一个更为悲惨的版本，指明了操作员和与之有情感纽带的那个工人（例如朋友或亲戚）。

机器如何应对道德困境？无人驾驶汽车会选择较小的恶，不会因杀人而感到内疚。对于人类而言，情况并非如此：缺少替代方案这个事实，并不能减少因做出了可怕的选择而引起的遗憾和悔恨。威廉·克拉克·斯泰隆（William Clark Styron）的小说《索菲的选择》（Sophie’s Choice）里的故事很好地说明了这点 —— 该片因导演艾伦·帕库拉（Alan Pakula）而出名。当主角索菲被驱逐到奥斯威辛集中营时，她面临着一个可怕的选择：一个虐待狂警卫迫使她决定两个孩子中的哪一个将进入毒气室。如果她拒绝，他们都会死去。绝望的索菲选择保留儿子，仍希望折磨者能改变主意。不幸的是，这并未发生。苏菲在之后的几年里一直承受着这件事所带来的痛苦，直到她自杀为止。

道德困境无法通过算法解决：以最小的成本计算出最优的结果。对于人类而言，这仍然是不够的。感到负责任，是指本质上不同的东西，例如懊悔、悔悟、悲伤、内疚和救赎：«功利主义（结果主义）伦理学否认存在真正的道德困境。它拒绝的原因非常明显：如果根据最优化的标准对行为进行评估，就不会有冲突。[…]。数字计算机被称为图灵机，它能提供独特的结果。仅凭这一点，它们就不能成为实际原因的模型“ ²³。面对困境，机器将保持不确定性，但不会感到内疚。而且，与索菲不同，他们不会因此而自杀。

对于数字人文主义的建设而言

创新与其间接影响的关系，是人类探索新发现时必不可少的一个主题。这也是哲学和文学一直探索的主题。它指出了各类创新是如何在展现新可能性的同时，会一并提出古老的问题。良心，责任，沟通，权力和道德的主题不容忽视，并仍是挑战各个年龄段和社会的问题。

马丁·海德格尔（Martin Heidegger）在对现代技术占主导地位的著名分析中指出：核心问题不在于发现这种统治地位，而在于人们没有准备以批判和有意识的方式生活，以权衡可能的利益和损失。但是，排除与生活智慧维度的对抗，技术性的心态有可能危险地接近疯狂，并因此丧失其意义 ²⁴。

朱利安·尼达·吕梅林（JulianNida-Rümelin）和纳塔利克·魏登费尔德（Nathalic Weidenfeld）在2001年电影《太空漫游》中谈到宇航员与哈儿9000之间的对话时指出：计算机所拥有红黑色玻璃眼的特征并非偶然，基督宗教的意象把它们归因于地狱：“地狱是人们通过计算机编程来决定生死的地方，它无法真正地来思考。” ²⁵。

数据和资源在数量上的增加需要进行最终的评估。人工智能最多只能提出评估，却永远不能成为最终的实例。结论由纳耶夫·雅亚（Nayef Yahya）有效地总结：“借助计算机，我们可以将几乎所有的人类问题转化为统计数据、图形或方程式。然而，真正令人不安的是，这种做法使我们产生了一种幻想：即这些问题可被计算机解决” ²⁶。

因此，达成“数字人文主义”需要在技术创新和人文科学之间进行更加细致的对话（用以取代奈达·鲁梅林和魏登菲尔德的书名）。关于什么是危险的争论，以及最终分析中将要执行的决定，必须始终掌握在智人手中。

1. 参见A. SPADARO-TH.BANCHOFF，“人工智能与人类：来自中西方的观点”，载于《公教文明》2019 II 432-443。处理这些问题（涉及不同的知识，例如工程学，心理学和哲学）的主要问题之一，是提供对其精确的定义。 关于人类智能的概念，Roberto Cordeschi将人工智能定义为“通过计算机程序，或移动机器人进行复制的能力，如果在人类或更普遍的情况下观察到的行为，将被定义为”智能”。 （R. CORDESCHI，“人工智能”，载于《百科全书》，米兰，Bompiani，2006年，第6卷，第5734页）。
2. H. FRY，《您好世界：在机器时代成为人类》，都灵，Bollati Boringhieri，2019，第 25 页。
3. 参见 S. DANZIGER-J. LEVAV-L. AVNAIM-PESSO-D. KAHNEMAN，“司法裁决中的外在因素”，载于《美国国家科学院院刊》108（2011）688-692； K. WEINSHALL-MARGEL-J. SHAPARD，“假释决策分析中被忽视的因素”，第108（2011）E 833； H. FRY，《 你好世界》，引自77 页。
4. 参见J. ROJAS，“伦敦暴动：利德尔水贼被判入狱六个月”，载于《电讯报》，2011年8月11日； D. MILLS，“保罗和理查德·约翰逊在暴乱后避免入狱，”《新闻购物者》，2012年1月13日； H. FRY，《 你好世界》…，引文，55 s。
5. 参见，例如，P. GARBOLINO，《证明的概率和逻辑》，米兰，Giuffrè，2014年； A. COSTANZO，《法律论据》，同上，2003年； 同上，《司法逻辑》，罗马，Aracne，2015。
6. 参见W. AUSTIN-TH。 A. WILLIAMS III，“法官对模拟法律案件的回应调查：关于量刑差异的研究记录”，《刑法与犯罪学杂志》 68（1977/2）306-310； DHAMI，M.K. DHAMI，“保释金和监狱，快速而节俭的方式”，见《行为决策杂志》14（2001/2）141-168； H. FRY，《 Hello World》，…，引文，56 s。
7. “伦敦，犯罪者正在缓刑。阻止他的人是一个凶手”，在http://www.rainews.it/dl/rainews/articoli/Londra-attentatore-era-28enne-Usman-Khan-in-liberta-vigilata-era-stato-condannato-per-terrorismo-Attacco-anche-Aja-1ff39587-f84e-496f-a4a6-8149e5110959.html 中
8. E. RIGOTTI，《结构语言学》，S. VANNI ROVIGHI（主编），《当代哲学史》，布雷西亚，La Scuola，1980，647 s； 参阅 N. CHOMSKY-G. MILLER，《语言用户的有限模型》，N. CHOMSKY，《语言论文 I 语言的形式分析》，都灵，Boringhieri，1969，第288-375页。
9. 参见P. K. KUHL-F. M. TSAO-H. LIU，“婴儿期的外语经验：短期接触和社交互动对语音学习的影响”，《美国国家科学院院刊》 100（2003）9096-9101； SPITZER，《数字痴呆症》，米兰，Corbaccio，2016，191 s。
10. “关系经历对大脑有根本的影响。 因为介导社会观念的电路与负责过程整合的电路密切相关，这些过程控制着意义的归属，身体机能的调节，情绪的调节，记忆的组织以及沟通技巧。人际经验在决定生命最初几年中大脑结构的发展，以及在我们整个生存过程中塑造大脑活动方面起着至关重要的组织作用。”（DJ SIEGEL，《关系思维：人际关系的神经生物学》，米兰，Raffaello Cortina ，2013年，第32页）。
11. H. FRY，《 你好世界》，同上，第92页；参见D. SNOWDON，“健康的衰老和痴呆：修女研究的发现”，《内科学年鉴》 139（2003）450-454。 “智力密度”是一个参数，用于指示语言复杂程度，例如，一个句子中存在多少个概念，以及是否正确使用了这些概念（请参见D.L. FRAZIER，“语法复杂性”）。 DOWTY-L. KARTTUNEN-A. ZWICKY [编辑]，《自然语言解析： 心理，计算和理论观点》，剑桥，CUP，1985，129-189； O.DAHL，《语言复杂性的增长和维持》，阿姆斯特丹-费城，Benjamins，2004年）。
12. 有关该问题的概述，请参阅S. MORAVIA，“思想”，在《哲学百科全书》中，米兰，Bompiani，2006年，第1卷, 8, 7268-7286； M. KÄUSBAUER，“思想的哲学”，同上，7286-7299； A. ANTONIETTI，“大脑与灵魂间的思想”，《新经院哲学杂志》 97（2005/2）211-242。
13. 西格尔在他对心灵的定义中，以某种方式接受了“健全的精神，寓于健全的身体”( mens sana in corpore sano)的真理：“思想,是调节能量和信息流动的具体过程和关系过程”（《关系思想》……，引自第1页）。 因此，它不仅限于大脑活动（并且，一旦大脑完成其发展就不会停止扩展），而是与整体的人以及良知有关。古人和中世纪人称之为“理性的灵魂”。”（参见亚里士多德，《 论灵魂》，第2卷，第413页，第26页；《 神学大全》，第75页）。
14. J. SEARLE，《良心之谜》，米兰，Raffaello Cortina，1998年，第9页；参见8。
15. 参见A. VENTURA，“自然主义文化主义的基础矛盾性”，《新经院哲学杂志》 111（2019/1）45-49； S. GALVAN，“ 哥德尔和心灵的计算模型”，第96（2004/1）145-174页； A. CORRADINI – N. GAY – G. Dico：“紧急情况：概念的起源”，同上，第263-279页。我感谢布雷西亚天主教大学教授Antonino Ventura教授的这些可能性。
16. “但是，如果我们不知道道德命令的无条件的实际必要性，那么我们确实知道它的不可知性，这是对将其原理推向人类理性极限的哲学的合理要求。”（康德，习俗的形而上学，巴里，Laterza，1979年，第108页；比照M. KUEHN，《康德传记》，博洛尼亚，il Mulino，2011年，第421页）。
17. “一句话：人是坏人，除此以外，别无其他意思：人知道道德法则，但仍然习惯于（有时）与该法则保持距离。”（康德，“恶原则与善原则并存，或人性中的根本罪恶”，《宗教仅在理性范围内》，巴里-罗马，Laterza，1985年，第32页。
18. 同上，38.45-46;文字中的斜体字。
19. A. DAMASIO，《笛卡尔的错误》，米兰，Adelphi，1995年，17 s。
20. 同上，19。
21. 双重效应是一种伦理学理论，它证明一项行为的合法性具有两种不同的后果：一种是积极的（直接期望），一种是消极的（间接）。
22. 参见PH. FOOT，“堕胎问题和双重效应学说”，载于《牛津评论》第5期（1967）5-15中； 同上，《道德困境：和道德哲学中的其他主题》，牛津，Clarendon，2002； D. EDMONDS，《你会杀掉那个胖子吗？ 小恶魔的道德困境》，米兰， Raffaello Cortina，2014年； J. D. GREENE ET AL，《道德判断中情感参与的功能磁共振成像研究》，《科学》 293（2001）2105-2108。
23. J.NIDA-RÜMELIN-N. WEIDENFELD，《数字人文主义： 人工智能时代的道德规范》，米兰，FrancoAngeli，2019年98期; 参见J. J. SMART-B. WILLIAMS，《功利主义的比较》，那不勒斯，Bibliopolis，1985年。
24. 参见 M. HEIDEGGER，“技术问题”，同上，《散文和演讲》，米兰，Mursia，1985，5-27； 同上，《被遗弃》，热那亚，il melangolo，1986，36。
25. J. NIDA-RÜMELIN – N. WEIDENFELD, Umanesimo digitale…, cit., 第109页.
26. N. YEHYA，《半机器人： 现实与科幻小说之间的后人体》，米兰，Eleuthera，2005年，第15页。