Новый член совета OpenAI Пол Кристиано давно предупреждает о риске потери контроля над продвинутыми ИИ-системами.
По его мнению, существующих мер безопасности может оказаться недостаточно для предотвращения катастрофических сценариев.
Подобные опасения высказывают и некоторые исследователи Anthropic. В частности, представители направления AI Alignment публично обсуждали ненулевую вероятность глобальной катастрофы из-за ИИ.
При этом речь идет именно об оценках отдельных исследователей и гипотетических сценариях, а не о прогнозе, который обязательно реализуется.
