Джеффри Хинтон, известный как «крестный отец искусственного интеллекта», предложил встроить в ИИ-модели «материнский инстинкт», чтобы «они действительно заботились о людях», даже когда технологии станут мощнее и умнее людей. Об этом пишет CNN.

Напомним, Хинтон — один из пионеров в сфере ИИ, лауреат Нобелевской премии по физике 2024 года (за достижения в области машинного обучения) и бывший вице-президент в Google — опасается, что технология, которую он помог создать, может уничтожить человечество. По его последним прогнозам, вероятность ИИ-апокалипсиса составляет от 10% до 20%.

Во вторник, 12 августа, на конференции Ai4 в Лас-Вегасе ученый выразил сомнения в том, что технологические компании пытаются обеспечить доминирование людей над системами искусственного интеллекта. В будущем, предупредил Хинтон, ИИ, вероятно, сможет контролировать людей так же легко, как взрослый способен подкупить трехлетнего ребенка конфетой. В этом году уже были примеры систем ИИ, готовых мошенничать ради достижения своих целей. Например, чтобы избежать замены, одна модель пыталась шантажировать инженера, угрожая раскрыть его интрижку, о которой узнала из электронного письма (это произошло в ходе предрелизного тестирования ИИ-модели Claude Opus 4 от Anthropic. — Прим. ред.).

«Системы искусственного интеллекта очень быстро разовьют две подцели, если они умны: одна — выжить… (и) другая — получить больше контроля, — сказал Хинтон. — Есть веские основания полагать, что любой агентный ИИ будет стремиться выжить».

Вместо того, чтобы заставлять искусственный интеллект подчиняться людям, Хинтон предложил интригующее решение: встроить в модели искусственного интеллекта материнский инстинкт, чтобы побудить их заботиться о людях и сострадать им.

«Правильная модель — это единственная имеющаяся у нас модель, когда более разумное существо контролируется менее разумным, то есть мать контролируется своим ребенком», — подчеркнул Хинтон.

Он добавил, что ему не совсем ясно, как это можно реализовать технически, но над этим работают исследователи.

«Если искусственный интеллект не станет моим родителем, он меня заменит», — считает Джеффри Хинтон.

Ранее он полагал, что появление общего искусственного интеллекта (AGI) может занять от 30 до 50 лет, но теперь его прогноз изменился.

«Разумно предположить, что это произойдет через 5–20 лет», — прокомментировал ученый.

Хотя Хинтон по-прежнему обеспокоен возможными проблемами с ИИ, он надеется, что эта технология проложит путь к прорывам в медицине.

«Мы увидим радикально новые лекарства. Мы получим гораздо более эффективное лечение рака, чем сейчас», — сказал он.

Например, как пояснил Хинтон, ИИ поможет врачам анализировать и сопоставлять огромные объемы данных, полученных с помощью МРТ и КТ.

Текст: Наталья Травова

Изображение: создано с помощью ИИ / Freepik

 

 

 

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!