真能毁灭世界?人工智能先驱为何会担忧人工智能
在今年一月份,来自加州大学伯克利分校计算机科学家Stuart Russell起草了致全体人工智能研究员的公开信,并第一个在上面签名。Stuart呼吁研究者不能只注重让人工智能变得更强大,同样要保证其健康性和有益性:AI必须遵从人类的意愿,不能胡作非为。 公开信发表后,已有数千人在上面签名。其中不乏来自谷歌、Facebook、微软等顶尖人工智能研究机构的科学家。同时来自全世界的物理学家、哲学家也在上面留下了自己的名字。Stuart是加州大学伯克利分校的智能系统中心的创始人,他一直在关注机器自主思考可能给人类带来的危害。他发表了超过200篇相关文章,还是业内标准教科书《人工智能:现代方法》的合作作者之一。但当下迅速发展的人工智能技术给Stuart带来了长远的担忧,而惊人的发展速度无疑加深了这种忧虑。Stuart