Бывший исследователь компании Anthropic Джейкоб Коксон, покинувший организацию из-за опасений по поводу слишком быстрых темпов разработки искусственного интеллекта (ИИ), 13 сентября сравнил сверхразумный искусственный интеллект с разумом инопланетной цивилизации.

«Честно говоря, я думаю, что концепция создания сверхразума сравнима с призывом инопланетной расы. Размышления об этом в контексте инопланетного разума, который мы не до конца понимаем, довольно пугающие, даже без каких-либо конкретных сценариев», — сказал Коксон в эфире телеканала ABC.

По словам исследователя, до его ухода сотрудники Anthropic несколько раз в неделю обсуждали риски, связанные с развитием ИИ-технологий.Газета The Wall Street Journal 8 сентября сообщила, что Коксон решил покинуть сферу ИИ из-за опасений, что стремительное соперничество крупных технологических компаний может приблизить человечество к «точке невозврата». По его мнению, развитие ИИ способно привести к катастрофическому сценарию уже к концу 2027 года. Руководитель направления стресс-тестирования согласованности ИИ в Anthropic Эван Хьюбингер на следующий день заявил, что вероятность, при которой ИИ может уничтожить человечество в ближайшие десять лет, уже превысила 10%.