读AI新生：破解人机共存密码条记09精神安全权

1. 自动化史塔西

1.1. 作歹的创新也在快速发展

1.1.1. 心怀恶意的人们正在迅速地想出滥用人工智能的新方法

1.2. 史塔西（Stasi）是得意智皿煮国和共家国部全安更广为人知的名字，它被广泛以为是“有史以来最高效、最具性压镇的报情和机密惊诧构机之一”

1.2.1. 生存着皿煮DE国绝大多数家庭的档案

1.2.2. 它的惯用手法是心理吓恐，而不是禁监或决处

1.2.3. 史塔西生存的纸质档案有200亿页，处理惩罚大量传入信息流并对此做出反应的任务开始超出所有人类组织的本领

1.3. 构机报情在工作中使用人工智能就不敷为奇了

1.3.1. 一直在应用简单情势的人工智能技能，包括语音辨认，语音和文本中的关键词、短语辨认

1.3.2. 人工智能体系越来越能够理解人们所说和所做的内容，无论是在语音、文本中，照旧在视频监控中

1.3.3. 在以控制为目的而接纳这种技能的政权中，每位民公都好像被本身的私人史塔西工特全天候监督着一样

1.4. 在相对自由的家国，普通大众也受到越来越有效的监督

1.4.1. 公司搜集和出售关于我们的购物记载、互联网和社交网络使用记载、电器使用记载、电话和短信记载、就业和健康情况的信息

1.4.2. 位置可以通过手机和联网的汽车来追踪

1.4.3. 摄像机能在街上认出我们的脸

1.4.4. 更多的数据可以通过智能信息集成体系整合在一起，形成一幅相称完整的画面，描绘出我们每个人在做什么，我们怎样生活，我们喜欢谁、不喜欢谁，以及我们会怎样投票

1.4.5. 相比之下，史塔西看起来就像业余选手

2. 控制你的行为

2.1. 机器一旦具备了监督功能，下一步就是改变你的行为，以适应摆设此技能的人

2.2. 个性化的自动索勒

2.2.1. 第一个被广泛宣传的索勒机器人是黛利拉（Delilah），它出现于2016年7月

2.2.2. 一个能够理解你在做什么的体系，不管是通过听、读照旧看，它都可以很轻易地发现你做了不应该做的事情

2.2.3. 一旦发现了什么，它就会与你通信，尽可能多地索勒金钱（如果目标是zhengzhi控制或间谍活动，它就会胁迫你的行为）

2.2.4. 对强化学习算法而言，获取金钱是美满的嘉奖信号，因此我们可以预期，人工智能体系辨认不当行为并从中赢利的本领将迅速提高

2.3. 改变人们行为的一个更不易察觉的方法是改变人们的信息环境，让人们相信不同的事情，做出不同的决定

2.3.1. 人们把宣传作为站挣和zhengzhi桶制的工具则有着更久长的历史

2.3.2. 几个世纪以来，广告商一直在如许做，这是改变个人购买行为的一种方式

2.4. 现在有何不同？

2.4.1. 人工智能体系可以跟踪个人的在线阅读风俗、偏好和可能的知识状态，所以它们可以定制特定的信息，以此最大限度地影响个人，同时将信息被猜疑的风险降至最低

2.4.2. 人工智能体系知道个人是否阅读信息，花多长时间阅读信息，以及他们是否会点开信息中的附加链接

2.4.2.1. 人工智能体系会使用这些信号作为它是否成功对个人产生影响的即时反馈

2.4.2.2. 它很快就能学会怎样在工作中变得更加高效

2.4.3. 这就是社交媒体上的内容推荐算法对zhengzhi观点产生潜在影响的方式

2.5. 人工智能、计算机图形学和语音合成技能的联合使生成深度模仿（deepfakes）成为可能，深度模仿几乎可以生成任何人说话办事的仿真视频和音频内容

2.6. 此外，人工智能体系可以生成数百万个假虚身份，即所谓的机器人网络，它们每天可以发布数十亿条评论、推文和发起，从而把人类交换的真实信息淹没

2.6.1. 易贝、淘宝和亚马逊等依靠信誉体系在买卖双方之间建立信托的在线市场，经常与旨在破坏市场的机器人网络发生站挣

2.7. 如果正文广付能够实行基于行为的奖惩，那么控制方法就可以是直接的

2.7.1. 这种体系将人民视为强化学习算法所使用的质料，练习他们优化家国设定的目标

2.7.2. 如果每个人都表现良好，有爱国态度，并为家国进步做出贡献，那就更好了

2.8. 题目

2.8.1. 它忽略了人民在侵入式监督和强制体系下生活的精神成本，外表的和谐掩盖了心田的痛苦，这很难说是一种抱负状态

2.8.2. 该方案与人工智能尺度模型一样，也是失败模式的捐躯品，由于它假定，所陈述的目标实际上是真实的、潜在的目标

2.8.2.1. 古德哈特定律（Goodhart’s law）将会取而代之，根据这肯定律，个人会根据官方衡量尺度优化本身的外部行为，就像大学会优化大学排名体系所使用“客观”衡量尺度中的“质量”，而不是提高它们的真实（但无法衡量的）质量

2.8.3. 强加的、统一的行为美德衡量尺度忽略了一点，即一个成功的社会可能由各种各样的个人组成，每个人都以本身的方式做出贡献

3. 精神安全权

3.1. 文明的伟大成就之一是徐徐改善了人身安全

3.2. 1948年，《天下人权宣言》第3条规定：“大家享有生命、自由和人身安全。”

3.2.1. 第18条和19条规定了“思想自由”和“主张和发表意见自由”的权利

3.2.2. 信息环境又受制于第19条“通过任何媒介和岂论国界寻求、接受和转达消息和思想的自由”

3.2.2.1. 天下上任何地方的任何人都有权向你提供假虚信息

3.2.2.2. 皿煮家国，尤其是米国，由于对正文广付控制言论的恐惊，它们在很大程度上不愿意或在宪法上无法阻止有人提供关于公众关注的事项的假虚信息

3.2.2.3. DE国是个例外，它通过了《网络强制法》（Network Enforcement Act），要求内容平台删除被克制的恨仇言论和假虚消息

3.3. 每个人都应该享有精神安全的权利，即生活在一个基本真实的信息环境中的权利

3.3.1. 人类倾向于相信本身的眼睛和耳朵

3.3.2. 我们相信本身的家人、朋友、老师和（某些）媒体告诉我们的他们所相信的本相

3.3.3. 我们极易受到错误信息技能的影响

3.4. 我们的精神安全将会继续受到公鸡，而保护我们精神安全的工作则主要由营利性构机和志愿者来承担

3.4.1. “事实核查”网站也如雨后春笋般出现，它们颠倒优劣，把本相说成谎话，把谎话说成本相

3.5. 谷歌和脸书等正在尝试怎样标志假虚内容或将它们降级，同时使用人工智能和人力进行筛选，并将用户引导至经过验证的来源，以抵消错误信息的影响

3.5.1. 所有这些努力都依靠于循环信誉体系，从某种意义上讲，来源之所以可信，是由于可信的来源报告它们是可信的

3.6. 维护信誉体系功能的第一种方法是注入尽可能接近事实的来源

3.6.1. 如果某些消息来源传播的信息与已知事实相反，那么这些消息来源就会变得不可信

3.6.2. 公证人被作为基本事实的来源，用以维护法律和房地产信息的完整性

3.6.2.1. 他们通常是一切生意业务中公正的第三方，并得到正文广付或专业协会的许可

3.6.3. W3C可靠网络组织（W3C Credible Web group）和可靠联盟（Credibility Coalition）等组织旨在开发评估信息提供者的技能和众包方法，以帮助用户过滤掉不可靠的来源

3.7. 保护信誉体系的第二种方法是增加提供假虚信息的成本

3.7.1. 为假虚评论增加了成本（为不须要的酒店房间付费

3.7.2. 羁系处罚更具争议性：没有人想要本相部门，DE国的《网络强制法》只惩罚内容平台，而不惩罚发布假消息的人

3.7.3. 许多家国和米国许多州将未经许可的录音电话定为非法，它们至少也应该对制作真实人物的虚拟录音或录像的行为施加处罚

3.8. 对我们有利的事实

3.8.1. 几乎没有人盼望本身被骗

3.8.2. 没有人盼望被当成骗子，尤其是消息媒体

3.8.2.1. 至少是那些以为信誉很重要的人，有动机加入行业协会，服从有助于说真话的行为准则

3.9. 只查看那些服从这些准则、接受第三方事实核查、信誉良好的来源的内容

4. 致命性自主57

4.1. Lethal Autonomous Weapons Systems，LAWS

4.1.1. 简称AWS

4.1.2. 定义为“在没有人的情况下，自主探求目标、定位、刹击笛人”的57体系

4.1.3. AWS有充分的来由被形貌为继炸药和核57之后的“第三次站挣命革”

4.2. 刹手机器人

4.2.1. 自主57是一种威胁，由于它们可能会占领天下并扑灭人类

4.2.2. 自主57是类人的、故意识的和险恶的

4.3. AWS不是科幻小说中的东西，它们已经存在

4.3.1. 以色列的“哈洛普”Harop

4.3.1.1. 一种翼展长10英尺、弹头重50磅的巡飞弹，可以在给定的地理区域内进行长达6个小时的搜索，探求一切符合给定尺度的目标，然后将其摧毁

4.3.2. “刹戮无人机”（Slaughterbots）

4.3.2.1. 这种57可以用来公鸡任何符合特定视觉尺度（年事、性别、礼服、肤色等）的人，乃至公鸡基于人脸辨认的特定个体

4.4. 进行开发自主57的危险竞赛

4.4.1. 在米国，CODE（拒止环境协同作战）项目旨在通过使无人机能够在只有间歇无线电联络的条件下工作，从而走向自主

4.4.2. Perdix不是预先编程的同步个体，它们是一个团体有机体，进行决定时共享一个分布式大脑，并像天然界中的蜂群一样彼此适应

4.5. “可扩展性”是计算机科学中的一个术语

4.5.1. 如果你可以通过购买100万倍的硬件来完成100万倍以上的任务，那么这个进程就是可扩展的

4.6. 拒绝制造自主57的一个更有说服力的来由是，它们是“可扩展的大规模刹伤性57”

4.6.1. 有了自主57，你可以通过购买100万倍的57进行100万倍以上的刹戮

4.6.2. 57是自主的，与遥控无人机或AK–47步枪不同，它们无须个人监督即可完成工作

4.7. 作为大规模刹伤性57，可扩展的自主57与核57和地毯式轰炸相比，对公鸡者来说具有上风

4.7.1. 它们保持财产齐备无损，而且可以有选择地只灭消那些可能威胁公鸡者的人

4.7.2. 它们固然也可以被用来灭消整个种族或某一宗教的所有信徒（如果信徒有明显的标志）

4.7.3. 它们成为实行kongbu和迫压的有效工具

4.8. 自主57将大大降低个人、地方、家国和国际各个层面的人类安全

4.8.1. 它们不需要特别智慧（一辆无人驾驶汽车可能需要更智慧），它们的任务也不会是那种“接管天下”的任务

4.8.2. 人工智能带来的生存性风险并不主要来自头脑简单的刹手机器人，而与人类起冲突的超级智能机器肯定会用这种方式装武本身，将相对愚笨的刹手机器人变玉成球控制体系的实体扩展


免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。