为什么技术会带来伦理道德风险

8大风险来源:

  • Truth, Disinformation, Propaganda
  • Addiction & the Dopamine EconomyTruth, Disinformation, Propaganda
  • Economic & Asset Inequalities
  • Machine Ethics & Algorithmic Biases
  • Surveillance State
  • Data Control & Monetization
  • Implicit Trust & User Understanding
  • Hateful &Criminal Actors
  • 事实、虚假报告、片面宣传
  • 多巴胺经济
  • 贫富差距
  • 机器道德和算法歧视
  • 国家监控
  • 数据控制与货币化
  • 隐晦的“我已阅读并同意xx条款”
  • 仇恨罪行(针对某一特定社会群组的歧视性犯罪行为)

栗子

1. Truth, Disinformation, and Propaganda 利用算法推演的虚假视频。
2. Addiction & the Dopamine Economy 社交机器人。社交媒体上定向开发和投向的智能机器人已经被训练的具有更强的舆论引导性和情绪化导向。
3. Addiction & the Dopamine Economy 技术成瘾。当前一部分主流的游戏或者社交平台有明确的使用时间限制(防沉迷),当一个成瘾性产品的核心买点是没有时间限制的时候,无疑会对用户身心造成不良影响。
4. Economic & Asset Inequalities 自动化。自动化已经成为失业的主要影响因素。 
5. Economic & Asset Inequalities “智能招聘”。分析雇员在特定工作环境和压力下在社交媒体上的情绪,预测患精神疾病的概率,可为雇主对当前雇员提供定向分析和决策。
6. Machine Ethics & Algorithmic Biases 司法预测。通过过往案例数据的分析,预测犯罪几率成为司法裁决的主要参考依据。
7. Machine Ethics & Algorithmic Biases 社交与金融整合体。一整个主流的社交网络公司整合商业银行成为首席社交信用提供者。
8. Surveillance State 面部识别技术。任何人或者组织都可以使用的一项主流技术。
9. Surveillance State 可读写神经网络植入。当大脑中植入一个可读写指令的芯片。
10. Data Control & Monetization 智能马桶。一个大型数据整合企业,提供免费的商业保险,前提是安装他的智能马桶,分析你的饮食、健康状况等等信息,提供给政府或者学术研究。
11. Data Control & Monetization 某知名大学推荐学生在发生性关系之前安装一个区块链应用“proof of consent”,记录当时的状态,甚至传图也可以。利用区块链保存这些信息。虽然有些人担心这些信息会和真实的自己挂钩而拒绝使用,然而大多数女性特别愿意使用。她们更看重这个应用对防范性侵犯的作用而不是私密用途。
12. Implicit Trust & User Understanding  无人机派送。这些无人机基本都是满身镜头的传感器,对于隐私的收集和记录,是很容易侵犯他人的。
13. Hateful & Criminal Actors 加密货币。比如在区块链上贩售黄赌毒信息。
14. Hateful & Criminal Actors 自动驾驶。自动驾驶对于实时勒索对抵抗力天然很低。