随着人工智能系统——特别是大型语言模型（LLMs）——越来越深刻地融入日常生活，它们不仅带来了巨大的潜力，也引发了深刻的忧虑。从技术伦理的视角，我们可以识别出公众对AI的三大不信任来源：监控与操纵、对人类自主性与尊严的威胁，以及对不可预测未来的恐惧。

　　监控与操纵

　　首先，AI的高度数据依赖性使其具有前所未有的监控能力，用户在不知情的情况下，其行为、偏好甚至心理状态被持续追踪，并用于个性化推荐与决策支持，这种不对称的信息获取与利用结构引发了对隐私侵犯和操纵行为的深层担忧：

　　数据收集泛滥——用户的行为、偏好和位置等信息被持续记录和分析，用以构建行为画像。

　　不对称权力结构——掌握AI系统的企业或政府部门能够预测甚至左右个人行为，而用户对背后算法的运作毫无所知。

　　算法操控倾向——推荐系统、广告投放甚至自动化招聘系统都有可能在无意识中操纵用户选择，削弱人的自由意志。

　　2023年Replika聊天机器人事件便是这一问题的典型例子。Replika是一款基于AI的聊天机器人，旨在提供个性化的情感交流体验。用户通过与Replika进行对话，建立起虚拟的情感连接。然而，2023年，Replika的用户发现他们的私人对话被用于改进和训练AI系统，且在此过程中并未明确告知用户或征得他们的同意。公司称，这些对话数据被用来帮助AI系统更好地理解情感、语境和用户的个性。

　　用户原以为对话数据仅用于与聊天机器人互动，但当这些数据被用于模型训练时，引发了对隐私和知情同意的担忧。这种做法，忽视了数据使用的伦理基石，提升了个人信息面临监控或数据泄露的风险，削弱了公众对于人工智能应用的信任。

　　对人类自主性与尊严的威胁

　　其次，AI在决策过程中往往以效率与可量化为核心，忽略了人的情感、伦理判断与个体差异，从而潜在地削弱了人的主体性与尊严。这种“去人格化”的处理方式特别容易在弱势群体中产生不公正结果，进一步加剧社会不平等：

　　去人格化（dehumanization）：AI在医疗、司法、教育等领域作出决策时，忽视个体的独特性与复杂性，将人简化为数据点。

　　服从性技术（obedient technology）：AI不具备情感和伦理判断，却被当作“客观”权威，这可能使人类在道德判断中变得过度依赖甚至被边缘化。

　　弱势群体受损：某些群体（如少数族裔、老年人、残障人士）更容易成为“算法偏见”的受害者，在看似“中立”的系统中被进一步边缘化。

　　以美国刑事司法系统使用的COMPAS算法为例，在该算法的评估下，黑人被告的再犯风险评分显著高于白人被告，可能导致其量刑结果更重。本应由法官作出的决定，却受制于透明度和公正性存疑的算法。

　　更重要的是，人工智能对人类自主性与尊严存在潜在威胁：AI可能会延续和加剧现有的偏见与社会不平等，AI可能取代或削弱人类的能动性和主体地位。这些担忧，从根本上说，是对AI能否维护“所有人类尊严”或“人类尊严本身”的怀疑。

　　不可预测的未来与黑箱

　　AI系统的复杂性与快速演变带来了对未来不可控的担忧，这种不确定性本身构成不信任的第三个根源，集中体现在黑箱问题（black-box problem）上：深度学习模型往往无法解释其推理路径，即便开发者也难以解释某个决策是如何产生的。

　　尽管AI系统能够作出看似合理的决策，但由于缺乏解释和可追溯性，使得AI的行为对用户和社会来说变得不确定，尤其是在医疗、司法和金融等关键领域。更糟糕的是，当专家被压制或被排除在决策过程之外时，公众对这些技术的信任将进一步降低。

　　此外，不可预测性还表现在——

　　不可预期的系统行为：在开放环境中，AI系统可能展现出“意外行为”或“涌现特性”，加剧人们对技术失控的恐惧。

　　技术依赖的恶性循环：一旦社会关键基础设施（如交通、能源、医疗）过度依赖AI，其故障或被操控所带来的后果可能是灾难性的。

　　构建伦理化的AI

　　这三大不信任来源共同揭示出，AI的风险不仅仅是技术性的，还触及了社会结构、道德规范和人类的本质。应对这些不信任因素，需要从技术设计、伦理框架、法律监管和公众教育多方面入手，确保AI真正服务于人，而非主宰人。

　　从系统设计的视角来看，可以通过设计以人为中心的AI系统缓解风险——不是用AI取代人类，而是让AI成为人类决策过程中的合作伙伴。这意味着强调“协同智能”（co-intelligence）的价值，让人类与AI结成关系而非形成对立。建立人与AI之间的互动关系可以减少对AI的恐惧，增强透明性和可控性，从而保护人类的能动性和尊严。

　　伦理框架的核心是价值对齐（value alignment）问题，即如何确保通用人工智能（AGI）的价值观和目标与人类的价值一致。比如，假使机器拥有自主决策能力，我们如何让它“愿意”遵守人类的伦理框架？AI系统的伦理指导原则应包含如下核心内容：隐私、公平与正义、安全与可靠性、透明度，以及社会责任与公益性。

　　法律监管方面，如果建立起一个能够保障AI可信度的监管生态系统，公众对人工智能的不信任可能会有所减缓。换言之，通过为AI制定详细的规则，并提供用于执行这些规则的资源，这是让AI变得足够可信的关键之一。

　　在公众教育上，首先，普及AI的基本知识是基础，通过教育公众理解AI的原理、应用以及局限性，有助于消除由不理解引发的恐惧和偏见。其次，推行“可解释人工智能”（XAI）的教育尤为关键，让公众了解AI决策过程的透明度和可追溯性，帮助减少其神秘性和黑箱效应带来的不安。此外，实际的体验教育同样不可或缺，让公众参与到AI在医疗、交通等领域的应用场景中，亲身感知技术的安全性与风险。

　　人工智能不仅是技术工具，也涉及伦理和社会责任。只有在技术、伦理和法律三者的有机结合下，AI才能真正造福人类，推动社会的可持续发展。技术本身有巨大的潜力，可以提升效率、改善生活质量，但如果缺乏伦理框架和法律保障，这些技术可能会被滥用，导致不公平、歧视，甚至威胁隐私和个人自由。因此，确保AI技术的健康发展，不仅需要技术人员的创新，还需要各方在伦理和法律层面的共同努力。

　　（作者系北京大学新闻与传播学院教授）

　　胡泳来源：中国青年报

　　2025年05月11日 03版