人工智能发展存在的问题

　　存在问题

　　1.不可控的“粗鲁行为”

　　正如我们从微软的Tay聊天机器人事件中了解到的，会话式消息系统可能是荒谬的、不礼貌的、甚至是非常令人不快的。首席信息官们必须对自己使用的东西以及使用它们的方式非常小心。要摧毁一个品牌的形象，只需要聊天机器人一次令人恼怒的爆发就足够了。

　　2.感知能力很糟糕

　　谷歌人工智能科学家及斯坦福大学教授李飞飞在《纽约时报》的一篇专栏文章中表示，人工智能虽然是由人类开发的，但是具有讽刺意味的是，它根本不像人类。她表示，人类的视觉感知是高度背景化的，但人工智能对图像感知的能力却非常的狭隘。为此，人工智能程序员必须与领域专家合作——回归该领域的学术根源——以缩小人与机器感知之间的差距。

　　3.黑匣子难题

　　许多企业都想使用人工智能，但金融服务等行业的公司必须非常小心，因为对于人工智能是如何得出其结论这个问题尚未能解决。Fannie Mae的运营和技术负责人Bruce Lee表示：“企业如果不能解决好样本数据偏见对借贷公平造成的影响，就无法提供更好的抵押贷款利率。在诸如信贷决策之类的工作里，人工智能实际上受到了很多监管的阻碍，很多问题有待解决。所以我们所做的很多事情都必须进行彻底的回溯测试，以确保没有引入不恰当的偏见。”

　　如果人们不清楚人工智能软件如何检测模式并观察结果，那么对机器的信任能够到达何种程度也有待考究。Fox Rothschild律师事务所技术实践联席主席Dan Farris表示：“背景、道德和数据质量是影响人工智能价值可靠性的重要因素，特别是在受到高度监管的行业中更是如此。”他表示：“在任何受到高度监管的行业中部署人工智能都可能会导致合规性问题。”

　　4.民族和社会经济方面的偏见

　　在进行一个使用谷歌街景汽车图像来确定全美国城镇人口结构的项目中，斯坦福大学的博士生Timnit Gebru对于她的研究中对种族、性别和社会经济方面的偏见感到担忧。根据彭博社的报道，正是这种担心促使Gebru加入微软，她正在这里努力地挖掘人工智能的偏见。

　　即使是人工智能虚拟助手也会受到偏见的影响。你有没有想过为什么虚拟助理技术——例如Alexa、Siri和Cortana都设定为女性?客户服务软件专家LivePerson的首席执行官Rob LoCascio对CIO.com表示：“这源于人类自己对职场中女性的期望。许多人认为，女性本质上是‘助手’;她们更爱‘唠叨’;她们更多地担任行政职务;她们更擅长接受订单……”

　　5.黑客利用人工智能发动致命的攻击

　　一份由剑桥大学、牛津大学和耶鲁大学25位技术和公共政策研究人员撰写的98页的报告指出，人工智能的快速发展意味着存在恶意用户很快就会利用该技术进行自动黑客攻击，模仿人类传播错误信息或将商业无人机转化为目标武器。

　　牛津大学未来人类研究所(Future of Humanity Institute)的研究人员Miles Brundage 对路透社表示：“我们承认，人工智能有很多积极的应用。但是，它也的确存在着一个有关恶意使用问题的缺口。”

　　6.奴役理论

　　以特斯拉和SpaceX成名的企业家Elon Musk警告说，人类冒着成为独立“家猫”的风险创造具有卓越智慧和能力的人工智能。最近，以色列历史学家Yuval Noah Harari也提出，以自动化为核心的人工智能的出现，可能会造成一个“全球无用阶级”。 在这样的世界里，民主会受到威胁，因为人类并不像机器那样了解自己。

　　人工智能的情感探索

　　人工智能虽然是工具和手段，但威胁也仍然存在，当好的工具被坏的人类使用后，对社会产生的很多时候都会是恶果。但我们也不能因为可能存在的威胁就放弃了这项技术的发展，毕竟这项技术给人类的生活带来的翻天覆地变化，我们也无法去忽视。对人工智能来说，如果单纯只是增加算法准确性，带来的更高语音、图像等领域的识别，那其实还远不能说人工智能，这充其量只能算是更高级的电脑而已。而人工智能想要达到人类智慧的高度，那么仅仅只是在智商上达到那还远远不够，其最为关键的仍然还是人类情感，这种人类神经系统对外界价值关系产生的最主观反映。

　　新一代人工智能系统的首要任务就是需要具备“感性”的情感连接能力，这样才能以更像真实人类的方式满足人们普遍心理和情感需求，从而逐步建立信任和依赖感。科技公司们从没有放弃在这方面的尝试，为了更好的与人类进行情感交流，很多公司都发明了人工智能对话机器人，被我们所熟知的就有微软小冰。微软小冰突破了过去传统人工智能的发展思路，从底层建立了一套新的技术和产品结构，将“情感计算”第一次引入人工智能领域。目前仅仅是在中国市场，微软小冰就已经和近四千万人类建立了1对1的专属关系。眼下微软正在尝试将对人工智能情感计算的思想注入到小冰的开发和运营中。

　　在技术和产品创新层面，微软构建了一个完整可持续的对话系统，这个对话系统的基本任务不是以完成任务为优先，而是建立情感连接为优先。构建这个对话系统的方法，已不只限于语义学，而是基于搜索引擎、大数据和机器学习的系统模拟方法。最终希望让小冰这样的人工智能产品快速普及到千家万户，成为人们日常生活的一部分。