2023-07-10 13:38
OpenAI组建新团队，研究如何控制超智能人工智能系统
AI奇点网7月10日报道丨OpenAI 宣布正在组建一个新团队，由其联合创始人兼首席科学家Ilya Sutskever和Alignment负责人Jan Leike共同领导，以寻找引导和控制下一代“超智能人工智能系统”的方法。据悉，该团队目前具备最高优先级，有权使用公司 20% 的计算资源，目标是在未来四年内解决“控制超智能 AI”的核心技术挑战。团队声称，他们需要时间来进行“科学和技术”方面的突破，以引导和控制比人类聪明得多的 AI 系统。
团队表示，在“确保比人类更聪明的 AI 系统遵循人类的意图”方面，他们当下还没有一个合理的解决方案来引导或控制潜在的超智能 AI，当下人类只能通过反馈来令 AI 调整生成过程，但人类无法可靠地从根源监督 AI 系统。因此，OpenAI 计划构建一个大致达到人类水平的 AI “automated alignment researcher”，然后使用大量深度学习来扩展 AI 能力，并迭代地调整该超级智能。
直至目前，AI奇点网关注到，这一新团队还在对外招募机器学习研究人员和工程师。Sutskever 和 Leike 认为，招募更多的机器学习专家对于解决下一代超智能 AI 的问题至关重要。他们计划广泛分享团队的研究成果，并将促进业界共同进步。
相关文章
雷小军
