特别策划Special Plan 人工智能对社会经济和伦理规范的挑战文/周 涛2018年5月4日，在成都新经济发展研究分，我们都吃了下去，因为没有选择。院和封面新闻举办的“第二届AI+移动媒体大数据时代的到来，是人类历史上的跨越大会”上，笔者阐述了近年来蓬勃发展的大式发展，没有人能置身事外。如果站在信息的数据和人工智能技术为社会带来的变革及自角度来看，我们人类开始直立行走，经历了数己的看法。百万年的进化；但在这之后，人类从一个高度 大数据时代是跨越性的，没有人能置信息贫乏的时代走到现在这样一个眼花缭乱的大数据时身事外 信息爆炸时代，只用了不到一个世纪。两个进代的到来，是化阶段的耗时差距如此悬殊，我们的社会是否人类历史上的不管大家愿意还是不愿意，人类都进入已经真正为我们进入这样一个信息高度丰富的跨越式发展，了一个一切都被记录的大数据时代，不管是我时代做好了准备，是值得思考的。没有人能置身们在公共场所的发言，还是和最亲密的对象私事外。人类从语，这些内容可能都会被记录下来。人类现在 算法未必“绝对中立”，迎合人类喜一个高度信息掌握的数据量对于几十年前而言，是不可想象好的背后隐藏着“歧视” 贫乏的时代走的，现在的数据量已经十分庞大，再过8年还会关于人工智能伦理方面，笔者首先引出了到现在这样一涨10倍。但是掌握了这么多数据，并不意味着算法的中立性问题。一般而言大家会认为算法个眼花缭乱的我们就能够真正驾驭它们。天然就是中立的，在半个多世纪以前，罗根给信息爆炸时在大数据时代，我们面临的第一个挑战美国的城市设计公路、花园等，他在一个花园代，只用了不就是信息的复杂性很高。比如，现在的消费者里面设计了一个桥，但是桥洞很矮，设计了这到一个世纪。们，可以从淘宝12亿商品中准确选出自己需要样的一个入口使得当时公共汽车是没有办法通两个进化阶段的商品和信息，但其实这庞大的商品和信息，过的，只有私人的小轿车可以通过。但是那个的耗时差距如绝大部分都是我们没有看过的。时候绝大部分的穷人，包括有色人种都是坐公此悬殊，我们在当今的社会生活中，人们获取信息很共交通的，只有富人才能开得起轿车，所以这的社会是否已大程度上被动的。笔者用了这样一个类比来描个设计本身表面上看起来是中立的，但实际上经真正为我们述我们获取信息的场景：在某种程度而言，分是有了区别对待的。它使得公园中桥后的进入这样一个发信息的平台，或者说掌管信息分发的算法，区域，只有富人才能进入。这在当时看来非常信息高度丰富的时代做好了可以理解成一种中介；信息中介与我们的关系正常，但如果放到现在，就是很严重的歧视问准备，是值得就像是保姆与婴儿一样，即使我们不知道对方题，如果我们处在互联网领域，这种歧视可能思考的。喂过来的食物是否有营养，是否存在有害的成更加隐秘。传媒∷MEDIA 2018.7（上） 19特别策划Special Plan 统里，可能希望能获得优质的课程推送，甚至职业规划和人生规划等方案供我们选择。这个时候我相信计算机会根据你以前的行为、你的家庭背景、消费习惯等作出在算法看来最适合你的推荐。于是穷人和富人可能会抵达不同的城市的角落，可能会在很早的时候就有不同的人生规划和目标。在那个时候尽管我们表面上可以获取的信息更多了，但是因为这个信息都是某些信息中介推到我们这儿的，所以说贫穷和富裕之间的差距到底会增大还是缩小，不好说。 对酒驾的惩罚其实就是数据时效性的应用案例 人类是否可能为一些还没有发生的事情付出代价？这是很多人都在思考的一个问题。在《大数据时代》中，作到了互联网领域，在进行个性化推荐的研究时，笔者讲了一个很可怕的例子，到了大数据更加成熟的时候，者发现很多开发者在设计商品推荐系统的时候，会考虑用系统可能会推算出一个人什么时候会犯罪，我们很庆幸这户对价格的敏感性。如果一个用户经常在三级品类比如钢个情景如今还并没有发生。笔中，每一次购买的商品都选这个品类中比较便宜的，但是有时候我们为了安全的原因会去猜测一个人的不开发者设计的算法就判定这个用户价格敏感度高、比较安全因素有多大，比如，美国就会分析一个乘客的资料来“穷”。这时系统要对他进行推荐、或者关键词排序的时看他是否是，如果危险因素过高他就会被留在机候，会优先把一些特别便宜的东西推给他。场。尽管一定程度上他的被拒登机，总体提升了其他乘客如果未来人类自身处理信息的能力进一步减弱，很的安全程度，但这样做的代价是有一小部分人作为无辜者有可能是因为机器推给我们的信息更多了，人类变得更愿在这个系统中遭受到了不公平的待遇。意依赖算法和机器。比如，到一个城市去旅游，可能我们十多年前酒驾的危害刚开始被讨论的时候，争论是很需要机器推荐一个一流的游玩路线；我们到了一个教育系大的。实际上在世界上很多国家酒驾是很正常的事情。从（上接18页）感知，机器智能已经逼近或者超越人类。的方向。人类独有心识，也即是意识。但末那识只是DNA编程为假设人类智能与机器智能可以互补，而虚拟现实中的人类设置好的故事线，“我识”因分别心而起诸多烦恼、智能体（Agent）与人类智能可以互相替代，而人类所有虚妄，见分为我，生成无数无明妄想。机器智能将超越末的感知数据、记忆与思维模式都可以上传到云脑中，那么那识与分别心，把人类文明的“藏经楼”、智慧海进化虚拟现实生成的虚拟宇宙就会形成在现实宇宙之外的三千成为智能云，合并成为庞大无边、智慧无穷的阿赖耶识。大千世界，而人类所体验和经历的不过是其中的一个原初在人脑的认知规律被破解，脑机接口可控化、移动化实现启蒙点。未来的万象，还有无限精彩。后，人机融合进化合成的云端智脑，最终将引导我们走出智能世界的终极主体，就是无限宇宙和虚拟宇宙合无明，承载文明。就像AI可以通过脑机接口控制老鼠的意并成为宇宙智脑，所有数据皆可计算，可存储，可迭代进识行为一样，智慧终端包括人类的思维可能与超级智脑同化，届时这个超级大脑将拥有全知、全智和全能，不仅觉步。这样，即使是老鼠也可以走出迷宫，超越生物大脑的醒自由，也可遍历无限，可以创生和创造无数虚拟宇宙。感知与认知局限。人类和机器智能融合互联的终极目标，就是共创这个人工智能的伟大，就在于它突破了“人类是万物灵万物智能的新宇宙。长”的思维与技术局限，让万物都有机会结构化成为“灵长的灵长”，也让“后图灵时代”的智能发展有新作者系新智元创始人兼CEO20 传媒∷MEDIA 2018.7（上） 特别策划Special Plan 某种意义来讲，对于酒后驾车，有很多的证据表明它会提高发生交通事故的概率。因为这个原因，尽管有些人酒后驾车还没有产生交通事故，但也可以基于数据的支撑对其进行处罚，如今酒驾已经入刑，笔者非常赞同这个规定，它对我们的交通安全很有帮助。我们可以想象一下20年以后我们的自动驾驶占到了很大的比例时，未来绝大部分的交通事故应该是因为人造成的，如果到了那个时候，真人驾车是不是就是最危险的一种？除了对酒驾的处理，数据实效性也实实在在影响着个人的征信记录。中国有一句古话叫浪子回头金不换，讲的是一个人犯了错误，要改变当人类的行为必须通过冷冰冰的代码选择，所以未来很大自己，你的亲友可能会相信你，也应该相信你，所以你一部分的道德主题的选择，这个时候我们人类的尊严，他有了一个新的机会。但是计算机可不会这么想，比如你的可选择性是否还有价值？中学的时候打了架，可能大学的时候因为虚荣借了校园贷款没有还，这些事情过了一二十年可能会使你很难再 人工智能是毁灭性技术？ 次贷款，可能会影响你的婚恋，因为计算机绝对不会忘关于未来，笔者也道出了自己的看法和担忧：任何一记数据。种物种都有盛衰，猴子变成了人，猴子就衰退了，原来属 面对不同立场，人工智能如何选择？ 于森林的土地上我们建了高楼大厦，猴子如果知道后果肯定会很仇恨第一只走路的猴子。人类有可能会毁灭，有可笔者认为，人工智能和大数据的存在已经开始改变能是行星撞地球，有可能是来自于可怕的战争，有可能是人类的伦理体系。想象一下，假使有朝一日，人类伦理道大家担心的某种人工智能对人的替代。但是人工智能不是德的规则必须要由机器来帮我们写，又该如何？比如，我一个会毁灭人类的技术，因为人工智能发展到现在，他所们在路上开车，如果突然一群不遵守交通规则的人冲到有的要去优化的目标函数等都还是由人来设计的，至今我车前，这时候你面临三种选择：一是开过去直接撞上这们还没有看到一群机器人自己设计自己，也没有看到一群些人，因为他们主动违反了交通规则；二是左转，这样会机器认识到了自我。但是有一种技术对人类而言是最危险撞到一旁等候的人；三是冲出这个围栏，可能自己会受伤的，就是我们最终对大脑的认识。甚至死亡。不管做什么样的选择，这个选择的主题首先是其实在好几十年前，我们就已经很清楚的知道了小白人，你可能是一个自私的人，也有可能是一个大公无私的鼠它所有的感觉、感知是什么样子，所以说我们放下一个人，但是这个拷问的回答者终归是人类。杠杆，小白鼠他就会获得快感。如果我们某一天我们通过实际上2017年有一篇很有趣的关于无人驾驶的文章，一个电机就获得各种各样的快感，或者在几天之内就走过大体的意思就是说如果你把自己代入一个场景，你是一个我们的人生，如果是那样，我们普通人拼命的跋涉、拼命坐在副驾驶上的人，你买了一辆无人驾驶的汽车，这个时努力的动力从何而来？所以真正有可能影响我们社会、影候如果出现严重的交通意外，我们首先是保护路人的安全响人类未来的可能是我们对大脑的设计。还是保护车主的安全？大部分人会选保护车主的安全，但以人工智能为牵引的新的科技时代已经到来，希望是假设你在休息室等待的时候，你看到一个场景你被代入大家不管从事任何的领域，一定要去拥抱这个新的时了，你是一个路人，看到无人车在路上跑，你回答同样的代，但凡想要阻挡这个时代到来的人都只会成为旧时代问题，绝大部分人会认为首先保护路人的安全，其次是车的提灯者。主的安全。人的大脑和道德准则本身就是很复杂的。但是现在当作者系成都新经济发展研究院执行院长、电子科技大学教授我们真的有了无人车的时候就由不得你了，汽车就会做出判断。当机器人、这些设备高度的融入我们的生活时候，（本文系作者在第二届AI+移动媒体大会上的讲话整理而成。）传媒∷MEDIA 2018.7（上） 21
