人工智能的广泛应用也会对人类带来非常重大的挑战和风险。在英国科学协会委托下，民调机构YouGov对2000人进行了数据调查，近33%的人认为未来人工智能将会对人类生存造成威胁，60%的人认为人工智能会给就业带来压力。这项研究表明了人工智能时代的到来在一定程度上造成人类的恐惧。关于人工智能可能超越人类，多年以前就已经引起了很多著名学者的关注。未来学家雷·库兹韦尔(RayKurzweil)在《灵魂机器的时代》(1999)和《奇点临近》(2005)等书中描述了人工智能将超过人类的乌托邦情景。美国计算机科学家比尔·乔伊(BillJoy)在连线杂志发表的《为什么未来不需要我们？》(2000)一文，他认为人工智能将使人类在物种意义上受到威胁，但是目前人们大大低估人工智能导致的风险。科学家史蒂芬·霍金也曾指出，从短期来看，人类还能控制人工智能的影响，而长期来看，人类能否完全控制人工智能，才是其深感忧虑的问题。德国哲学家京特·安德斯也曾指出，虽然人们常常强调“创造是人的天性”，但是也常常因为“创造与被创造关系的倒置”使人成了过时的人[2]。英国科学协会主席戴维.威利茨也表达出了对人工智能的担忧。Acemoglu博士也曾于2016年，在其发表的《机器人与人之间的竞争》中表示：机器人会在很大程度上代替人成为劳动力。
（二）国内关于人工智能的认知
我国在人工智能领域的研究已经取得长足的进步。根据清华大学中国科技政策研究中心的研究，截止2017年，无论是在人工智能投入，还是在论文专利产出、人工智能产业等方面，都取得了巨大的成就。中国的人工智能人才拥有量达到18232人，占世界总量的8.9%，略低于美国；但是我国杰出人工智能人才仅有977人，不及美国的1/5。在人工智能领域的论文发表也取得跨越式发展，论文总量遥遥领先其它国家，人工智能论文全球占比从1997年的4.26%增长至2017年的27.68%；其中，高被引论文也取得重大突破，并于2013年就超越美国成为世界第一。我国人工智能专利总量上也已经略为领先美国和日本，其中专利布局也是最多的国家[3]。据研究院数据统计，我国目前在人工智能方面的产值大约200多亿元，累计投资146笔，投资领域在全球排名第三；目前国内人工智能技术主要运用于智能机器人领域[4]。
研究表明，人与机器的学习存在差异，人学习的自主性和适应性较强，在非结构化和非固定情境下的决策和反应力及处理要远远高于机器，反之则机器更具有优势。李开复先生认为，人工智能会在很大程度上代替人力，并且会给人力资源管理带来冲击，人工智能在深度学习层面有了重大突破；在未来的大环境下，大数据与海量计算是掌握人工智能技术的核心。人工智能的技术内核和实现途径是机器学习，即一种对人来说“失控”的程序再编，形成一种相对独立的自主性行为。从思维本质上看，人工智能与自动化的根本区别在于人工智能拥有自我意识与对象意识[5]。人们应该从强化人的控制作用和建设性参与入手来解决人工智能伦理面临的挑战[6]。虽然我国目前正大力发展人工智能，但是我国各界人工智能伦理研究却相对薄弱。
我国人工智能发展具有良好的政策环境。2018年10月31日，中共中央政治局就人工智能发展现状和趋势举行第九次集体学习。习近平总书记强调，人工智能是新一轮科技革命和产业变革的重要驱动力量，加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题[7]。通过将人工智能确定为重要战略方向后，大力推动了人工智能关键核心技术的不断突破和加强人才队伍建设，从而充分发挥人工智能的“头雁”效应，引领我国新一轮科技革命和产业变革。事实上，为推动我国人工智能产业的健康发展，我国已经制定了一系列推动人工智能产业发展的政策。从进入2017年起，我国不断推进人工智能的行业发展，中央政府为人工智能建立了专门的财政引导，设立市场资金机制。不断优化人工智能产业，推广新技术的运用，进一步加快了人工智能的发展。我国先后颁布了《中国制造2025》（2015年）、《新一代人工智能发展规划》（2017年）等具有重大意义的战略规划，对推动人工智能的发展具有重要的影响。接下来，就需要各级政府和领导干部要深刻认识加快发展新一代人工智能的重大意义，根据中央政府的战略部署，做好规划，明确任务，以切实可行的办法来推动人工智能与经济社会发展深度融合。另外，我国各地大量举办各类人工智能的学术会议，比如2018年第一届人工智能中国论坛就在上海世博展览馆成功召开，这些会议对推动我国人工智能发展和促进我国步入智能化时代做出了重要贡献。
（三）人工智能在人力资源管理领域的应用
根据知识在不同的组织历史阶段所起的作用，可将组织划分为以三个形态为主的发展阶段：在1.0阶段，硬件和软件都只能自然演化，而不能设计成组织形态；在2.0阶段，硬件只能自然演化，但软件在很大程度上可以设计成组织形态，即知识可以在很大程度上作用于组织本身；在3.0阶段，软件和硬件都能设计，即达到“人机融合智能时代”的组织形态，这个阶段组织使命就是一切源于知识，一切也回归于知识[8]。人工智能在推动组织进化的过程中将扮演着越来越重要的角色，对人类行为的影响也将越来越大，人力资源管理实践需要对此有及时回应，并能做出恰当的调整或制定出具体的应对策略。人工智能在人力资源管理领域的应用已见端倪，在信息高度发达的今天，可以预测在很短的时间里，AI（ArtificialIntelligence）会在人力资源管理中得到广泛的应用。
根据《日本产经新闻》2016年的报道，BiReach、YAHOO和美国的Salesforce.com公司进行跨界合作，宣布研发出一种人工智能技术HRTech，这将是继教育与金融之后的又一与IT紧密结合的新兴领域。美国的沃尔玛已经开始引入这种技术，预计在2019年6月逐步实现推广至2000家企业。HRTech不仅仅在欧美地区推行，同时中国也推出了HRTechChina，即人力资源科技综合服务平台。2018年4月，硅谷公司的新产品AI招聘管理工具Hiretual3.0版本上线，这项产品以减轻招聘人员负担为研发理念，增设了添加招聘经理、可制定的工作流程、电子邮件集成三项新功能，而且，在进行客户行为反馈的深度学习上，更具优势。
员动力（YemInnovation）是中国首个员工创意管理SaaS云平台，它通过人工智能、机器学习、大数据、云计算，以及自创的TIO算法（Technology，Innovation，Optimization），激发、管理员工创意，并把他们的创意变现，从而为企业带来创新性的利润增长。员动力完美实现HR和BP的结合，被誉为创新经济和VUCA时代下的“员工赋能神器、创意激发神器”。创意魔方(Inno-Cube)是其新推出的一款人工智能产品，它是一种基于云计算的SaaS服务产品，其主要功能是进行人才资本管理和刺激员工创新；通过对员工进行赋能，激励员工在平台上提交创意产品，不仅增加了企业因员工的创新理念带来的收益，与此同时，也实现了企业对人力资源的高效利用；该产品已经获得了国家认证。