硅谷新王Sam Altman舌战国会山：如果AI技术出错，后果很严重｜2.5万字实录|环球聚焦

(资料图片仅供参考)

《AI未来指北》栏目由腾讯新闻推出，邀约全球业内专家、创业者、投资人，探讨AI领域的技术发展、商业模式、应用场景、伦理及版权争议。

作者：城主 | 编辑：腾讯新闻郝博阳

划重点：

1Sam Altman 认为与所有的技术革命一样，AI会对就业产生重大影响。但GPT-4是一个工具，而不是一种生物，它更擅长完成任务，而不是工作。因此它将创建我们认为更好的新工作。2对于AI大规模部署，Sam Altman认为在暗地里构建一个超强大的人工智能系统，然后一下子把它投放到世界上这不会奏效。OpenAI的战略是当这些系统仍然不完美时，找到方法让人们对它们有经验，与现实接触，通过反馈找出使其变得更安全和更好的方法。3Sam Altman对监管的几点建议：1)成立一个新的机构，对超过一定规模的功能进行许可，并可以收回许可证，确保遵守安全标准。2）制定一套安全标准，重点关注危险能力评估。我们以前用过的一个例子是检查看模型是否可以自我复制和自行渗透到外部。3）要求独立审计，而不仅仅是公司或机构自我审查，还要有广泛外部专家的评价意见。4在隐私保护层面：用户能够选择退出，不让类似我们公司或社交媒体公司这样的公司使用他们的数据，而且易于删除自己的数据。如果用户不希望自己的数据用于训练这些系统，他有权这样做。

关键词：

责任编辑：梅长苏