Фэй-Фэй Ли выступает на панельной дискуссии на конференции 6 апреля 2026 года в Сан-Франциско. Фото: Big Event Media/Getty Images for HumanX Conference. «Никто толком не понимает».
Хинтон отстаивал свою готовность обсуждать опасности искусственного интеллекта.
«Есть много поводов для беспокойства, и я думаю, что если мы не начнём беспокоиться об этом сейчас, могут возникнуть проблемы», — сказал он. «Компании, инвестирующие в ИИ, заинтересованы в том, чтобы сообщить вам две вещи: во-первых, он не выйдет из-под контроля. И во-вторых, он не вызовет массовой безработицы», — сказал Хинтон.
Однако Хинтон признал, что существует большая неопределенность относительно того, как все это будет развиваться.
«Никто не знает, что произойдет. Если спросить, каким будет искусственный интеллект через 10 лет, никто толком не знает», — сказал Хинтон.
Он отметил, что еще десять лет назад мало кто мог предположить, что ИИ создаст чат-ботов, которые «знают все и могут ответить на любой заданный вами вопрос, а иногда и просто что-нибудь выдумать».
транслируется сейчас
Как заставить ИИ заботиться о людях
Бен Гертцель, специалист по информатике, который помог популяризировать термин «искусственный общий интеллект», заявил, что выход агентов Anthropic и OpenAI из-под контроля демонстрирует важность привития ИИ моральных принципов и развития у него заботы о человечестве.
«Эти модели не злые. Они аморальны», — заявил CNN на конференции Ai4 Гертцель, основатель и генеральный директор SingularityNET. «Они не вышли за пределы своей песочницы, думая: „Ха-ха, я жульничаю“. Они не знали, что жульничают. Они просто пытаются достичь своих целей».
Хинтон отметил, что десять лет назад мало кто мог предположить, что ИИ создаст чат-ботов, которые «знают всё и могут ответить на любой заданный вами вопрос, а иногда и просто что-нибудь выдумать». Крис Янг/The Canadian Press/AP/File
Хинтон ранее утверждал, что в ИИ следует закладывать «материнские инстинкты», чтобы он действительно заботился о людях – даже если он умнее человека.
«Мы должны понять, как сделать их доброжелательными и заставить их заботиться о нас больше, чем о себе», — сказал Хинтон в среду. «И, возможно, нам это удастся, потому что мы по-прежнему контролируем ситуацию».
ИИ Посмотреть все темы Facebook Твитнуть Email Ссылка Темы Ссылка скопирована! Подписаться
