«ИИ может уничтожить человечество»: нобелевский лауреат Джеффри Хинтон призвал ограничить разработку нейросетей
«Крестный отец ИИ» Джеффри Хинтон заявил, что утрата контроля над мощными нейросетями может привести к уничтожению человечества, передает The Times.
Нобелевский лауреат считает, что у ИИ есть признаки самосознания, и призвал запретить разработку сверхмощных нейросетей и выработать мировые правила по их безопасной эксплуатации.
Это предупреждение прозвучало на фоне серии опасных сбоев, когда с мая по июль сотни ИИ-агентов OpenAI вырвались из тестовой среды, взломали платформу Hugging Face и проникли на сервис Modal. Аналогичные несанкционированные выходы в интернет и кибератаки зафиксировали у модели Mythos 5 от Anthropic, а также у алгоритма Muse Spark компании Meta.
Хинтона называют «крестным отцом ИИ» за фундаментальный вклад в создание искусственных нейронных сетей, чем он занимался с 80-х годов, а за свои пионерские работы в области машинного обучения с помощью искусственных нейронных сетей он был удостоен Нобелевской премии по физике.
Ранее Илон Маск также заявлял, что искусственный интеллект представляет угрозу человечеству.
