AI大战人类：科幻照进现实？ _AI

个人很喜欢科幻文学，让我印象最深的作品之一是美国的《终结者》电影，这一系列一共6部，拍摄时间跨度从1984年到2019年，从最早的《终结者1》，到最新的《终结者：黑暗命运》，情节概括就是人工智能（天网Sk.NET）发展出自我意识试图毁灭人类，派遣机器杀手回到过去以消灭未来的人类反抗军领袖的故事，整个系列脑洞大开，剧情激烈火爆，深受科幻迷的欢迎，也把人类对于AI发展的未来想象和担忧搬到银幕，引发科学界数十年的大辩论。

文章插图
其实，早在20世纪50年代，科学家就对人工智能AI的发展提出担忧，担心未来某一天AI可能会发展出自我意识威胁人类生存。
直到今年3月份，美国马斯克联合超过1000名科学家发表《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月，信中提到：“^……我们不应该冒着失去对文明控制的风险……只有当确保强大的人工智能系统的效果是积极的，其风险是可控的才能继续开发……”，更是将AI的威胁推到幕前。

文章插图
公开信署名者包括全球各个领域AI资深专家、科学家、企业家，明确呼吁暂停更高级AI的研究并制定相关规则，否则后果可能会很严重。
01 AI发展进入快车道最近一年OpenAI的人工智能聊天工具ChatGPT让AI成为全球科技和投资热点，包括百度、腾讯、谷歌等各个公司纷纷开发和推出各自的AI产品，AI发展进入快车道。
人工智能的发展已经超过80年，从最早的1943年英国科学家图灵推出“图灵测试”来判断计算机的智能水平，可以称之为AI的先驱，到上世纪中期美国政府和军方开发用于推理和语言处理的计算机系统，正式提出“AI人工智能”概念，再到1980年开始AI进入机器学习和大数据驱动模式，再到近15年来AI开始在各个领域商业化取得成功，比如自动驾驶、金融分析、医疗诊断、智能助手应用等，甚至AI被用于协助新冠疫苗的开发，大大节省时间提升效率。
目前出现的自主AI、量子计算、脑机接口、自适应系统等新技术必将在未来获得更快的发展，进入更多人类社会的应用领域，推动从科技、经济到工业等各方面发展。
如果按照现有发展速度，有科学家预测在未来的ChatGPT发展到10.0版本可能出现出现自主意识。AI的发展速度和进化速度超出人类想象和控制，面临失控风险。

文章插图
02 AI的威胁在哪里AI人工智能技术大大促进人类社会生产力的提高，未来应用不可限量。但是威胁同样存在。
值得一提的是，AI领域最著名的OpenAI公司CEO在访谈中指出：AI已经表现出无法解释的推理能力，同时他承认“AI杀死人类”有一定可能性。

文章插图
相信大家看到科幻电影中无所不能的AI角色毁灭人类的情节都会有一个问题，AI威胁是存在于虚构文学的情节，还是真实存在的？
从机器取代人类从事包括金融、财务、制造领域的工作开始，AI对于人类的威胁已经出现，再上升到类似于控制核武器毁灭人类的深层次担忧。我们说“非我族类，其心必异”，更何况是一个不管是能力和潜力都远远高于人类的新事物。

文章插图
从1997年人工智能“深蓝”打败国际象棋世界冠军开始，AI已经在多个领域超过人类。如果未来出现类人类的AI自主意识，必将引发从哲学、伦理到科学多个方面的挑战。

文章插图
就像霍金所担忧，“人工智能的发展有可能终结人类” 。虽然目前全世界还没有形成共识，或者出现一个类似于联合国的全球AI管理机构来规范和限制人工智能的研发，但是公开信的出现，把这个问题推到了整个世界的面前，让这个问题不能再被回避。
03 科技发展是双刃剑一方面人工智能技术的发展呈现加速，另一方面是全球没有相关的框架和准则去规范人工智能的发展，就好像一个人高速驾驶没有系安全带一样，产生巨大风险。