在羽生善治看来，下棋的背后牵扯到人类美学意识的问题。棋手选择下一步的行动，和磨炼美学意识的行为非常相似。即使有落子的条件，人类棋手也会因为“不美”或者“不喜欢这个形势”等理由而放弃，而机器人就不会考虑这些因素。
研发者已经注意到了这些问题。阿尔法狗系统的后续版本阿尔法元从零开始，通过自我对弈强化学习实现围棋、国际象棋、日本将棋的“通用棋类人工智能”，机器在下棋过程中已经变得越来越有“大局观”。
人工智能不够智能
技术改变生活，实际上，人工智能早已深入我们生活的角角落落，给各行各业带来便利。
《未来消费新形态》作者是大前研一，该书探讨了在消费低迷的低*社会背景下，企业未来该如何吸引消费者，其中就谈到人工智能的应用。据该书介绍，目前日本流行使用一款名为“ABEJA Insight”的人工智能系统，主要功能是利用店铺内普遍设置的摄像头获取数据，提供店内分析服务，进而让数据产生新价值。
在计数方面，该系统会运用摄像头记录来店人数；在人口统计方面，可解析来店者的年龄跟性别；在行为方面，可解析来店者的停留及动态状况。将这些新取得的数据组合分析，就会产生新的价值。
比如掌握不同时段的购买率来强化服务或安排班表，对降低成本很有帮助；以宣传目标和实际来店者属性作为效果检证，就能执行最合适的宣传方案；掌握该店的动态状况、停留状况，就能提高客人更替率以提升业绩。
《未来消费新形态》还提到，利用人工智能不仅可以取得数据，还可制造全新的体验。例如大卖场里的汽车销售门店，将顾客的动向转成数据之后，就知道有很多地方没有人流，沿着人流量更改动线之后，会明显带动销量。此外，将顾客停留的重点数据化后，会很容易发现把跑车摆在入口处，几乎没有人会驻足观看，而一旦换成轻型汽车，客人的停留率会大幅提升。有了这些数据分析材料，商家可以更有针对性地制定营销和宣传方案。
不过，对普通民众来说，人工智能还远远不够好。甚至在互联网上，“为什么人工智能大多像人工智障”最近成了热议的话题。
B站上的一些“人工智障”表现，常常有数百上千万人围观。例如，“长使英雄泪满襟”的《出师表》经过所谓人工智能的谷歌翻译后，成了一篇跨学科“大作文”，前言不搭后语，让人哭笑不得。与此类似，人脸识别系统有时化个妆或者戴个眼镜就完全失灵，有时会将图片识别为真人，甚至闹出了“王者荣耀”的人脸识别，将狗认作人脸的笑话。
实际上，人工智能整体还只在起步阶段。相对而言，面向特定任务的专用人工智能系统由于任务单一、需求明确、应用边界清晰、领域知识丰富、建模相对简单，在局部智能水平的单项测试中已经可以超越人类智能。比如阿尔法狗在围棋比赛中能战胜人类冠军，人工智能系统诊断皮肤癌能达到专业医生水平。
这种专科专项的胜利难言成功。人的大脑是一个通用的智能系统，能举一反三、融会贯通，可处理视觉、听觉、判断、推理、学习、思考、规划、设计等各类问题，可谓“一脑万用”。目前的人工智能系统与人类智慧还相差甚远，可谓有智能没智慧、有智商没情商、会计算不会“算计”、有专才而无通才。因此，在通用环节，人工智能依旧存在明显的局限性，依然还有很多“不能”。
深度学习带来威胁
开发阿尔法狗的哈萨比斯，在谈到开发人工智能的初衷时，举出的理由之一是揭开人类思考的机制。实际上，“启发法”这种掌握大方向的方法，可以说就是引入了类似人类的思考机制。
只是，还有不少等待克服的障碍。半导体业界有个经验规律叫作“摩尔定律”，意思是说，“半导体的集成度每过一年半到两年就会翻倍”。现在的中央处理器是七纳米，迟早会达到物理极限，所以现在很多人也在研究与以往完全不同的工作原理来提升运算处理速度，其中之一就是研发量子力学原理的量子计算机，量子计算机的计算速度有望远远超越目前的超级计算机。除了量子计算机，还有一种是模仿人类大脑架构的“脑型计算机”也在积极研发中。
处理大量数据和信息可以依靠超级计算机，但受种种条件限制，一个国家不可能建造一两千台超级计算机。很多人认为，计算机的将来只能是可以并行处理的量子计算机，或者超节能的“脑型计算机”。不过，这两者真正走向商用还遥遥无期。
《人类的未来，AI的未来》直言，人类大脑的机制还远远没有弄清。虽然有人预测说三四十年后，计算机有望超越全人类总体智慧，但能不能实现还很难讲。别忘了，人工智能擅长根据数据预测人们喜欢的东西，但人类有喜欢意外的天性、喜欢莫名其妙的可能性，这种创造性思维目前尚无法被模仿复制。
尽管人工智能“路漫漫其修远兮”，但其深度学习能力已经对人类文明造成潜在威胁。这里说的威胁，不是那种科幻式的想象，而是一种基于现实的考量。
简单而言，“深度学习系统的大量运用会在短期内对特定领域内的人类工作岗位构成威胁，由此也会对人类专家的稳定培养机制构成威胁，并使得深度学习未来的智慧汲取对象变得枯竭”，由此，人类文明在耗尽了深度学习的短期红利后，可能走向衰落。
拿医学中的肿瘤人工智能诊断来说，这种新兴技术在设计深度学习框架时，必须依赖专家医生进行数据的标注，但是专家医生本人的读图能力却是在数十年的学习和实践中积累的。当这种人工智能技术得到推广，医学院的学生可能没有精神动力再耗费多年心血进行相关学习，从长远来看，这会导致人类医生相关能力退化。
而且，由于深度学习的统计学机制会剔除偶然数据，很多罕见病例的肿瘤形态不会被标注，这种情况下，只能依赖人类医生。长远来看，人工智能肿瘤诊断也会对人类医生诊断罕见病例的能力产生负面影响。
更多问题已经显现出来。个人信息和隐私保护、人工智能创作内容的知识产权、人工智能系统可能存在的歧视和偏见、无人驾驶系统的交通法规、脑机接口和人机共生的科技伦理……这些都需要抓紧提供解决方案。
2017年9月，联合国犯罪和司法研究所决定在海牙成立第一个联合国人工智能和机器人中心，规范人工智能的发展。美国白宫多次组织人工智能领域法律法规问题的研讨会、咨询会。特斯拉等产业巨头牵头成立专门机构，希望“以有利于整个人类的方式促进和发展友好的人工智能”。
可见，人工智能早已不仅仅是个科学技术问题，要想健康可持续发展，未来需要从社会学的角度系统全面地研究人工智能对人类社会的影响，制定完善人工智能法律法规，规避可能的风险。
