OpenAI создает новую команду для смягчения 'катастрофических рисков', связанных с искусственным интеллектом. В обновлении, опубликованном в четверг, OpenAI объявляет, что команда по готовности будет 'отслеживать, оценивать, прогнозировать и защищать' от потенциальных крупных проблем, вызванных ИИ, включая ядерные угрозы. Команда также будет работать над смягчением 'химических, биологических и радиационных угроз', а также 'автономного размножения', то есть способности ИИ воспроизводить самого себя. Некоторые другие риски, с которыми столкнется команда по готовности, включают способность ИИ обманывать людей, а также кибербезопасность.