Компания OpenAI, которая создала чат-бота ChatGPT, объявила о создании команды, которая займется управлением рисками, связанными с появлением сверхумного искусственного интеллекта.
В OpenAI подчеркнули, что потенциальная сверхумная нейросеть наверняка поможет решить большинство проблем в мире, но ее появление содержит огромные риски, включая полное вымирание человечества.
Фирма создает команду, которую возглавили ученые Илья Суцкевер и Ян Лейке. Они получат финансирование и 20% вычислительной мощности OpenAI на эксперименты и создание инициативы, которая будет отслеживать развитие ИИ. Конечная цель авторов – убедиться, что ИИ не угрожает человеку.
OpenAI набирает людей, готовых потратить годы на контроль за нейросетью.