沈向洋与图灵奖得主探讨AI治理：挑战与机遇同在
专题：2024世界人工智能大会：共商共享，善治善智
7月4日，2024世界人工智能大会暨人工智能全球治理高级别会议召开。在全球治理图灵圆桌环节，原微软执行副总裁、美国国家工程院外籍院士沈向洋与三位图灵奖得主罗杰·瑞迪（Raj Reddy）、曼纽尔·布卢姆（Manuel Blum）、姚期智展开对话。
谈及对AI的观点与担忧，罗杰·瑞迪表示，他很高兴看到大家都对AI治理方面的风险问题、安全性问题有所担心。然而，具体需要做哪些研究？需要做哪些投资？目前还没有明确做到。正如联合国发言人讲到的“能力建设”，我们可以尽力让AI帮助每个人把自己工作做好。
罗杰·瑞迪认为新技术会产生新的机会，也会带来问题，但不应只想着负面影响就不继续了。未来，世界上每个人的生产效率将上涨10倍，GDP也将从100万亿生长到1000万亿。
曼纽尔·布卢姆在过去几年重点研究AI意识问题，他与雷诺尔·布朗创立了意识的模型，即“有意识的图灵机（CTM）”。大脑里有100多亿神经元，100亿的处理器，CTM模型可以告诉人们如何让很多处理器同时工作。
姚期智认为AI风险主要来自三方面：一是网络风险延伸和扩大，随着AI能力出现，传统的数据和网络安全方面风险会被放大；二是没有意识到的社会风险，如AI非常强大，且有很多使用方式，所以颠覆现有社会结构在短时间内发生的可能性是存在的，AI带来大规模失业的可能性也存在；第三是所谓生存或存在的风险。
姚期智表示，所有这些风险都需要很多专家来解决，不仅是科学家，还需要政府、律师、经济学家来参与，几乎涉及每一个行业。在姚期智看来，AI相当于网络风险的放大，AI的风险也与计算性相关，目前的算力能解决很多以前不知道如何解决的问题，但这也是让人感到非常恐惧的地方。因此，行业需要将AI控制好，也不希望AI进行破坏，这样的平衡是非常困难的。
（本文来自第一财经）
新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。
7月4日，2024世界人工智能大会暨人工智能全球治理高级别会议召开。在全球治理图灵圆桌环节，原微软执行副总裁、美国国家工程院外籍院士沈向洋与三位图灵奖得主罗杰·瑞迪（Raj Reddy）、曼纽尔·布卢姆（Manuel Blum）、姚期智展开对话。
谈及对AI的观点与担忧，罗杰·瑞迪表示，他很高兴看到大家都对AI治理方面的风险问题、安全性问题有所担心。然而，具体需要做哪些研究？需要做哪些投资？目前还没有明确做到。正如联合国发言人讲到的“能力建设”，我们可以尽力让AI帮助每个人把自己工作做好。
罗杰·瑞迪认为新技术会产生新的机会，也会带来问题，但不应只想着负面影响就不继续了。未来，世界上每个人的生产效率将上涨10倍，GDP也将从100万亿生长到1000万亿。
曼纽尔·布卢姆在过去几年重点研究AI意识问题，他与雷诺尔·布朗创立了意识的模型，即“有意识的图灵机（CTM）”。大脑里有100多亿神经元，100亿的处理器，CTM模型可以告诉人们如何让很多处理器同时工作。
姚期智认为AI风险主要来自三方面：一是网络风险延伸和扩大，随着AI能力出现，传统的数据和网络安全方面风险会被放大；二是没有意识到的社会风险，如AI非常强大，且有很多使用方式，所以颠覆现有社会结构在短时间内发生的可能性是存在的，AI带来大规模失业的可能性也存在；第三是所谓生存或存在的风险。
姚期智表示，所有这些风险都需要很多专家来解决，不仅是科学家，还需要政府、律师、经济学家来参与，几乎涉及每一个行业。在姚期智看来，AI相当于网络风险的放大，AI的风险也与计算性相关，目前的算力能解决很多以前不知道如何解决的问题，但这也是让人感到非常恐惧的地方。因此，行业需要将AI控制好，也不希望AI进行破坏，这样的平衡是非常困难的。
（本文来自第一财经）
新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。
声明：本站所有文章资源内容，如无特殊说明或标注，均为采集网络资源。如若本站内容侵犯了原著者的合法权益，可联系本站删除。
