IT道德与伦理

IT日益发展，人工智能日渐成熟。由谷歌公司研发的阿尔法狗接连打败李世石和柯洁，表明人类的最高智慧已受到挑战。同时，IT产业发展带来的道德伦理问题也越来越突出。

对于AI技术的快速发展，哈佛法学院互联网法律教授乔纳森·斯特兰（Jonathan Zittrain）认为这其中的一大危险就是，日益复杂的计算机系统可能阻止自己受到必要的审查。他说：“在技术帮助下，我们的系统变得越来越复杂，我很担心人类的自主性被减少。如果我们设置了系统，然后将其忘诸脑后，系统的自我演变带来的后果可能让我们后悔莫及。对此，目前还没有明确的道德层面上的考虑。”
除此之外，以日本为中心，在全世界范围内正掀起一股“同机器人谈恋爱”的热潮。英国《镜报》近日撰文称，2016年，人们可能拥有属于自己的恋爱机器人，而与之遥相呼应的是，日本推出多款“恋爱机器人”，这些机器人高度仿真，身高体型和普通人无异，面容姣好，皮肤则采用硅脂材料，最大限度地模拟自然人直接的触感，而且面部能表达65种不同的表情，甚至能够通过视觉系统捕捉、复制人类表情。甚至有人预言如果“情感机器人”研制成功，其将可能取代自然人。如果这种现象称为现实，人类未来的发展堪忧。

杀人机器人的研制也在争议之中，联合国《特定常规武器公约》近日正再次就杀手机器人主题听取技术和法律专家的意见。国际机器人武器控制委员会成员、斯坦福大学网络与社会研究中心的Peter Asaro表示，越来越多的人赞同，没有人类监督情形下的机器人杀人是不可接受的。
然而在1942年的短篇小说中，科幻作家Isaac Asimov提出了机器人的3条准则——工程安全措施和内置的道德准则，以保证机器人会友善对待人类并使人们免于机器末日。这些准则一是机器人不能伤害人类，或无所作为而导致人类受伤害；二是机器人必须听从命令，除非这些命令违背第一条准则；三是机器人必须保护自身，但这些保护不能与第一和第二条准则相违背。
霍金更是预言人工智能将导致人类毁灭。
由此制定行业标准和道德标准，并全面了解AI存在的风险，然后建立以伦理学家、技术专家以及企业*为核心的监管机制迫在眉睫。