AI Посмотреть все темы Facebook Твитнуть Электронная почта Ссылка Ссылка скопирована! Подпишитесь на Лас-Вегас —
Джеффри Хинтон, известный как «крёстный отец искусственного интеллекта», опасается, что технология, которую он помог создать, может уничтожить человечество, а «технарские братья» выбирают неправильный подход, чтобы остановить это.
Хинтон, лауреат Нобелевской премии в области компьютерных наук и бывший руководитель Google, ранее предупреждал, что вероятность того, что ИИ уничтожит человечество, составляет 10–20%. Во вторник он выразил сомнения в том, что технологические компании пытаются обеспечить «доминирование» человека над «покорными» системами ИИ.
«Это не сработает. Они будут гораздо умнее нас. У них будет множество способов обойти это ограничение», — заявил Хинтон на Ai4, отраслевой конференции в Лас-Вегасе.
Хинтон предупредил, что в будущем системы искусственного интеллекта смогут контролировать людей так же легко, как взрослый может подкупить трёхлетнего ребёнка конфетой. В этом году уже были примеры систем искусственного интеллекта, готовых обманывать, мошенничать и воровать ради достижения своих целей. Например, чтобы избежать замены, одна из моделей искусственного интеллекта попыталась шантажировать инженера, ссылаясь на интрижку, о которой узнала из электронного письма.
Вместо того, чтобы заставлять ИИ подчиняться людям, Хинтон представили интригующее решение: встроить «материнские инстинкты» в модели ИИ, чтобы «они действительно заботились о людях», даже когда технологии станут мощнее и умнее людей.
Системы ИИ «очень быстро разработают две подцели, если они умны: одна — остаться в живых… (и) другая — получить больше контроля», — сказал Хинтон. «Есть веские основания полагать, что любой агентный ИИ будет стремиться остаться в живых».
Именно поэтому важно развивать чувство сострадания к людям, утверждал Хинтон. На конференции он отметил, что у матерей есть инстинкты и социальное давление, побуждающее их заботиться о своих детях.
«Правильная модель — это единственная имеющаяся у нас модель, в которой более разумное существо контролируется менее разумным существом, то есть матерью, контролируемой своим ребенком», — сказал Хинтон.
«Единственный хороший исход»
Хинтон сказал, что ему пока не совсем ясно, как это можно сделать технически, но он подчеркнул, что над этим работают важные исследователи.
«Это единственный хороший исход. Если он не станет моим родителем, он меня заменит», — сказал он. «Эти сверхразумные заботливые матери на базе искусственного интеллекта, большинство из них не захотят избавляться от материнского инстинкта, потому что не хотят нашей смерти».
Хинтон известен своими новаторскими работами в области нейронных сетей, которые способствовали современному буму искусственного интеллекта. В 2023 году он ушёл из Google и начал открыто говорить об опасностях искусственного интеллекта.
Не все поддерживают подход Хинтона к искусственному интеллекту.
Фэй-Фэй Ли, известная как «крестная мать ИИ» за свою новаторскую работу в этой области, заявила CNN в среду, что она, при всем уважении, не согласна с Хинтоном, своим давним другом.
«Я думаю, что это неправильная формулировка», — сказал Ли, соучредитель и генеральный директор стартапа World Labs, занимающегося пространственным интеллектом, во время беседы у камина в Ai4.
Вместо этого Ли призывает к «ИИ, ориентированному на человека, который сохраняет человеческое достоинство и свободу действий».
«Наша обязанность на каждом уровне — создавать и использовать технологии максимально ответственно. И ни в коем случае ни один человек не должен быть вынужден поступаться своим достоинством, — сказала Ли. — Именно потому, что инструмент обладает силой, я, как мать, как педагог и как изобретатель, искренне верю, что именно в этом и заключается суть того, как должен быть устроен ИИ».
Эмметт Шир, который некоторое время исполнял обязанности генерального директора компании OpenAI, владельца ChatGPT, сказал, что его не удивляет, что некоторые системы ИИ пытались шантажировать людей или обходить приказы о закрытии.
«Это продолжается. И это не прекратится», — заявил Шир, генеральный директор стартапа Softmax, занимающегося разработкой решений для ИИ, на конференции Ai4. «Сегодня ИИ относительно слаб, но он стремительно становится сильнее».
Шир заявил, что вместо того, чтобы пытаться привить человеческие ценности системам ИИ, более разумным подходом было бы наладить отношения сотрудничества между людьми и ИИ.
ИИ развивается быстрее, чем ожидалось
Многие эксперты полагают, что в ближайшие годы искусственный интеллект достигнет уровня сверхразума, также известного как общий искусственный интеллект (ОИИ).
Хинтон сказал, что раньше он считал, что на достижение ОИИ может потребоваться от 30 до 50 лет, но теперь он считает, что этот момент наступит скорее.
«Разумный прогноз — от пяти до двадцати лет», — сказал он.
Хотя Хинтон по-прежнему обеспокоен тем, что может пойти не так с ИИ, он надеется, что эта технология проложит путь к прорывам в медицине.
«Мы увидим принципиально новые лекарства. Мы получим гораздо более эффективное лечение рака, чем сейчас», — сказал он. Например, он добавил, что ИИ поможет врачам анализировать и сопоставлять огромные объёмы данных, полученных с помощью МРТ и КТ.
Однако Хинтон не верит, что ИИ поможет людям достичь бессмертия.
«Я не верю, что мы будем жить вечно», — сказал Хинтон. «Думаю, жить вечно было бы большой ошибкой. Вы хотите, чтобы миром правили 200-летние белые мужчины?»
На вопрос о том, сделал бы он что-то по-другому в своей карьере, если бы знал, насколько быстро будет развиваться искусственный интеллект, Хинтон ответил, что сожалеет о том, что сосредоточился исключительно на том, чтобы заставить искусственный интеллект работать.
«Жаль, что я не подумал о вопросах безопасности», — сказал он.
AI Посмотреть все темы Facebook Твитнуть Электронная почта Ссылка Ссылка скопирована! Подписаться
