人工智能真的能给未来人类带来威胁？未来人类将如何自处?

理论学者们认为，AI领域的发展一旦突破某一“奇点“，将一发不可收拾。在”奇点“前一刻，人类仍可控制、完善、生产机器，在”奇点“后一刻，机器将实现自我控制、自我完善、自我生产。很快，人工智能会在一切领域超越人类，人类会遭遇到前所未有的威胁。

关于AI 奇点的论断有个关键前提：AI技术的发展呈指数趋势。科技界有个著名的摩尔定律，具体是指单位CPU的晶体管密度每年翻倍，广义则指计算机的信息处理能力（computing power）每年翻番。30年过去了，广义的摩尔定律依旧成立。作为计算机科学的一个分支，AI技术依赖于计算机信息处理能力。由此推断，AI技术的发展也会遵从摩尔定律，呈指数趋势。

没人知道AI奇点什么时候来临。十年、百年，或者永远不会。怀疑者们说，AI技术的发展遵从摩尔定律，本身就是伪命题。不同于硬件计算能力，AI技术更涉及了认知科学、社会科学等太多分支。我们对人脑的认识甚少，人类的思维结构至今还是个谜。而当前运行速度最快的计算机，也无法模拟人类思维。

除却AI奇点论，逻辑学家们还有一个更理性派的预言。预言本身是个思维实验：未来人类制造了一台具备强人工智能的机器。这台机器存在的意义有且只有一个 —— 生产曲别针。生产的越多越好，越快越好。强人工智能会把终极目标拆分成无数子目标，以此类推，子目标又被拆分成子目标。与此同时，强人工智能可以永恒地完善自己，并永恒地提高效率。按照这样的设想，为了实现终极目标，一切障碍都会被强人工智能消灭，甚至是全体人类；为了实现终极目标，一切资源都会被耗尽，甚至是整个地球。而最终目标仅仅是 —— 生产曲别针。

抛开理论界，AI确实给整个社会带来了更为现实的威胁：就业。近年来，AI技术使得一大批就业岗位实现了自动化，而这一趋势只增不减。如今，不少专业性极强的领域也在被AI取代。美国的一项统计数据指出，未来几十年里，50% 的工作岗位可以被自动化。已然存在的社会分配不公会进一步加深：AI 技术的持有者、创造者将不可避免地占有更多社会资源。

文章资料来源：

http://futurearchitectureplatform.org/media/froala/ai-1.jpg

https://www.extremetech.com/wp-content/uploads/2015/09/sat-ai-head-640x353.jpg

http://cacm.acm.org/magazines/2017/2/212437-ai-dangers/fulltext

http://www.slate.com/articles/technology/future_tense/2016/04/the_threats_that_artificial_intelligence_researchers_actually_worry_about.html

https://www.wired.com/2017/02/ai-threat-isnt-skynet-end-middle-class/

https://genius.com/Stephen-hawking-on-the-threat-of-artificial-intelligence-annotated

Pioneer Union