Глава Nvidia Дженсен Хуанг: Влияние научной фантастики на опасения по поводу ИИ контрпродуктивно

Дженсен Хуанг, сооснователь и генеральный директор компании Nvidia, высказал мнение, что широкое распространение научно-фантастических произведений мешает адекватно оценивать экзистенциальные риски, связанные с искусственным интеллектом. Nvidia является одним из ключевых производителей графических процессоров (GPU) — аппаратных средств, которые играют центральную роль в обучении и функционировании систем ИИ.

Риски искусственного интеллекта: Преувеличение или реальность?

Внедрение любой новой технологии сопряжено с многочисленными рисками, однако искусственный интеллект вызывает особенно острые дебаты относительно его массового применения. В ходе подкаста No Priors глава Nvidia выступил против так называемых «апокалиптических» сценариев, которые, по его словам, доминируют в общественном сознании.

В 2023 году многие ученые и лидеры технологической отрасли, включая Илона Маска, Сэма Альтмана и Билла Гейтса, подписали открытое письмо. В нем предупреждалось о возможности вымирания человечества из-за развития ИИ, и предлагалось рассматривать этот риск наряду с другими угрозами глобального масштаба, такими как ядерная война. Дженсен Хуанг не вошел в число подписантов. Его позиция, озвученная в подкасте, заключается в том, что эти страхи сильно преувеличены и чрезмерно вдохновлены научно-фантастическими произведениями XX века.

Опасения относительно искусственного общего интеллекта

Многие из текущих опасений связаны не столько с возможностями современного ИИ, сколько с гипотетическим искусственным общим интеллектом (ИОИ). Этот тип ИИ, согласно теории, сможет воспроизводить человеческий интеллект, действовать автономно, модифицировать собственный код и ставить свои собственные цели. Возможные последствия развития ИОИ являются серьезными, однако такой уровень ИИ пока не достигнут. По оценкам некоторых экспертов, на это потребуется от 10 до 15 лет, другие предполагают, что это может произойти гораздо раньше. Тем не менее, глава Nvidia справедливо указывает, что современные внедрения ИИ слишком примитивны и требуют постоянного человеческого контроля. При этом отмечается, что агентский ИИ (системы, способные самостоятельно принимать решения и действовать) может в будущем стать новой зоной потенциальных уязвимостей для корпоративных систем, поскольку его внедрение в организациях расширяется.