Генеральный директор OpenAI Сэм Альтман о будущем искусственного интеллекта

Искусственный интеллект — мощный инструмент. Независимо от того, используете ли вы ChatGPT, Claude, Gemini или любую другую модель, вы можете многое сделать с помощью ИИ. Но это сопряжено со множеством проблем, и не последняя из них — риск выхода ИИ из-под контроля. Кроме того, центры обработки данных создают экологические проблемы.

Несмотря на все хорошее, что может сделать (и уже делает) искусственный интеллект, он может привести и к ужасным последствиям. А по словам генерального директора OpenAI Сэма Альтмана, сказанным в интервью Decoded by POLITICO, «мир должен смириться с тем, что в результате развития ИИ происходит много плохого». Возможно, это легко принять, будучи генеральным директором одной из крупнейших в мире компаний, занимающихся разработкой ИИ, но мне, писателю, чей источник дохода постоянно под угрозой из-за ИИ, отмахнуться от этого немного сложнее.

И потеря рабочих мест может показаться незначительной по сравнению с другими рисками, которые предполагают эксперты в области ИИ. По данным Инициативы Массачусетского технологического института по оценке рисков, связанных с искусственным интеллектом, «вероятность того, что 18 из 24 рисков приведут к катастрофическим последствиям, составляет более 10%». Эти риски «могут привести к гибели более миллиона человек, финансовым потерям на сумму более 100 миллиардов долларов и другим негативным последствиям».

Видео от DGL.RU

Да, наверное, нам стоит просто смириться с этим, чтобы каждый день экономить немного времени на рабочих процессах.

Что сказал Сэм Альтман?

Полная цитата Сэма Альтмана: «Я думаю, что у нас еще много времени. Мы считаем, что мир должен смириться с некоторыми негативными последствиями ради преимуществ этой технологии и свободы выбора».

«Люди будут делать гораздо больше — на порядки больше — хорошего, чем плохого». — Сэм Альтман, генеральный директор OpenAI

Он также высказался о более централизованной структуре ИИ, которая позволит предотвратить негативные последствия: «Я не согласен, но понимаю точку зрения людей, которые говорят: «Эта технология станет настолько мощной и опасной, что она должна быть только в одной лаборатории в Сан-Франциско, чтобы ничего плохого не случилось, и чтобы можно было как-то распределять выгоды», — сказал Альтман.

Но Альтман не просто говорит, что произойдет много плохого и что мы обречены это принять. Он считает, что при более мягком подходе к регулированию ИИ «люди будут делать гораздо больше — на порядки больше — хорошего, чем плохого».

Альтман также не верит в «по-настоящему катастрофические риски», в том числе в возможность «серьезной потери контроля над ИИ». Конечно, я хочу, чтобы он оказался прав, и мне нравится, насколько ИИ может упростить многие процессы, но я также не готов принимать на веру мнение одного человека о «катастрофических рисках».

Только время покажет, придется ли нам столкнуться с катастрофическими рисками, связанными с искусственным интеллектом. В идеальном мире люди работали бы меньше, поскольку ИИ берет на себя скучные, повторяющиеся задачи, а стоимость товаров существенно снижается за счет повышения эффективности.

Но мы живем не в идеальном мире, поэтому я не готов просто смириться с тем, что «происходят плохие вещи», не вдаваясь в подробности.

Между прогрессом и ответственностью

Искусственный интеллект уже меняет рынок труда, науку, образование и повседневную работу, но его преимущества распределяются неравномерно. Руководители технологических компаний делают ставку на ускорение прогресса, тогда как специалисты по безопасности предупреждают о последствиях ошибок и чрезмерной концентрации власти. Главный спор касается не только того, насколько умными станут модели, но и того, кто будет контролировать их применение и отвечать за ущерб. Признать пользу технологии не значит автоматически согласиться с любыми издержками её развития.

Оптимизм руководителей

Сэм Альтман считает, что общество получит от ИИ значительно больше пользы, чем вреда, и призывает принимать неизбежные отрицательные последствия ради более широких возможностей. Такая позиция опирается на ожидание роста производительности, появления новых инструментов и ускорения научных исследований. Однако прогноз руководителя компании не является независимым доказательством безопасности технологии. У OpenAI есть собственная заинтересованность в дальнейшем развитии ИИ, поэтому её заявления следует оценивать вместе с результатами независимых исследований и практики внедрения.

Катастрофические сценарии

Оценка рисков ИИ включает не только потерю рабочих мест, но и ошибки в критической инфраструктуре, применение технологии для мошенничества, кибератак и создания опасных инструментов. Некоторые исследовательские инициативы действительно рассматривают сценарии с тяжёлыми последствиями, однако оценка вероятности зависит от определения риска, временного горизонта и исходных допущений. Нельзя автоматически трактовать перечень угроз как доказательство того, что катастрофа неизбежна. Столь же необоснованно считать все серьёзные опасения фантазиями только потому, что наиболее мрачные сценарии пока не реализовались.

Централизация под вопросом

Идея оставить разработку самых мощных моделей в руках одной лаборатории обещает более строгий контроль, но одновременно создаёт риск чрезмерной концентрации влияния. Одна организация получила бы значительную власть над доступом к технологиям, условиями их использования и распределением выгод. При этом централизованная структура не гарантирует отсутствия ошибок, злоупотреблений или неверных решений внутри самой компании. Более устойчивый подход предполагает независимый надзор, проверяемые стандарты безопасности и ясную ответственность разработчиков.

Цена удобства для общества

Польза искусственного интеллекта зависит не только от возможностей моделей, но и от того, кто получает выгоду и кто несёт последствия ошибок. Автоматизация способна ускорять работу, однако она же может усиливать неравенство, вытеснять отдельные профессии и создавать новые формы зависимости от технологических компаний. Исследование международной группы из 272 экспертов, представляющих 37 стран, показывает, что опасения не ограничиваются фантастическими сценариями потери контроля. Среди приоритетных угроз специалисты выделяют кибератаки, применение ИИ в вооружениях, концентрацию власти и распространение дезинформации.

Производительность не гарантирует всеобщую выгоду

ИИ может выполнять рутинные задачи быстрее человека, помогать анализировать документы и сокращать время на подготовку материалов. Но повышение производительности само по себе не означает сокращения рабочего дня или роста доходов сотрудников. Организация может направить полученную выгоду на расширение бизнеса, сокращение штата или увеличение нагрузки на оставшихся работников. Чтобы автоматизация действительно улучшала качество жизни, нужны понятные правила распределения результатов и возможность для сотрудников осваивать новые роли.

Экологический след вычислений

Развитие ИИ требует центров обработки данных, мощных ускорителей и значительных объёмов электроэнергии. Дополнительная нагрузка возникает из за охлаждения оборудования и потребления воды, особенно в регионах с ограниченными ресурсами. При этом вычислительная инфраструктура может стимулировать инвестиции в энергетику и создание технических рабочих мест. Практический вопрос состоит в том, кто оплачивает расширение сетей и как компании отчитываются о расходе ресурсов.

Ответственность не должна оставаться добровольной

Исследователи рисков ИИ указывают, что одних обещаний разработчиков недостаточно для управления угрозами. Необходимы проверяемые требования к испытаниям моделей, раскрытию значимых инцидентов и защите пользователей. Важную роль играют независимый аудит и ответственность за ущерб, особенно когда решения ИИ влияют на безопасность, финансы или доступ к услугам. При этом чрезмерно жёсткие правила для всех систем без учёта их назначения могут затруднить разработку полезных и относительно безопасных инструментов.

Повседневная польза без слепого доверия

Искусственный интеллект способен стать помощником в работе, обучении и бытовых задачах, если человек понимает его ограничения. Он может быстро подготовить черновик, систематизировать информацию или предложить варианты решения проблемы. Но уверенный тон ответа не гарантирует его правильности, а автоматизация иногда ускоряет распространение ошибки вместо того, чтобы её устранить. Поэтому полезнее строить рабочие процессы так, чтобы ИИ помогал человеку принимать решения, а не незаметно подменял его ответственность.

Сначала проверка, потом применение

В рабочих задачах особенно опасно без проверки переносить ответы ИИ в документы, отчёты и решения, которые влияют на других людей. Модель может придумать факты, неверно истолковать инструкцию или упустить важный контекст. Для снижения риска стоит заранее определить, какие сведения требуют проверки и кто отвечает за итоговый результат. В финансовых, юридических и медицинских вопросах человеческая проверка должна быть обязательной частью процесса.

Конфиденциальность как рабочее правило

Сотрудники нередко используют общедоступные ИИ сервисы, чтобы быстрее обрабатывать документы и переписку. Если загрузить туда сведения о клиентах, внутренние планы или персональные данные, компания может потерять контроль над чувствительной информацией. Полный запрет на ИИ не всегда решает проблему, поскольку люди способны продолжать пользоваться личными аккаунтами без ведома работодателя. Практичнее предоставить одобренные инструменты, определить запретные категории данных и обучить сотрудников безопасной работе.

Человек должен сохранять право решения

Чем больше задач передаётся автоматизированной системе, тем важнее возможность вмешаться, отменить действие и обратиться к ответственному специалисту. Это особенно актуально для найма, кредитования, образования и других сфер, где ошибка может повлиять на судьбу человека. ИИ полезен как средство анализа и подготовки рекомендаций, но не должен становиться непрозрачным судьёй. Ответственность за последствия должна оставаться у организации и людей, которые выбирают способ применения технологии.

Кому достанется новая реальность

Влияние искусственного интеллекта не будет одинаковым для всех профессий и социальных групп. Одни специалисты получат инструменты для ускорения сложной работы, другим придётся конкурировать с системами, которые выполняют часть их прежних обязанностей. Особенно уязвимы люди, у которых мало возможностей переучиваться или влиять на решения работодателя. Поэтому разговор о будущем ИИ должен учитывать не только среднюю производительность, но и положение конкретных работников.

Специалисты, которым ИИ помогает

Аналитики, разработчики, исследователи и авторы могут использовать ИИ для черновой обработки данных, поиска вариантов и автоматизации повторяющихся действий. Наибольшая польза возникает, когда человек хорошо знает предмет и способен быстро обнаружить ошибку в ответе модели. В таких условиях ИИ усиливает квалификацию специалиста, а не заменяет её. Чем сложнее задача и выше цена ошибки, тем важнее профессиональный контроль.

Работники под давлением автоматизации

Сильнее всего изменения могут затронуть профессии, в которых значительная часть работы состоит из типовых текстов, простых операций с документами или стандартных ответов клиентам. Однако исчезновение отдельных задач не обязательно означает полное исчезновение профессии. Работодатели могут изменить требования к сотрудникам, сократить число начальных позиций или объединить несколько ролей в одну. Подготовка к таким изменениям требует доступного переобучения и честного обсуждения последствий автоматизации.

Кому не стоит передавать всё управление

Людям, которые не готовы проверять ответы и разбираться в ограничениях ИИ, не следует поручать ему решения с серьёзными последствиями без надзора. Это касается руководителей, которые используют автоматизацию только ради сокращения затрат, и организаций, которые не готовы отвечать за ошибки систем. Даже простой инструмент становится опасным, если никто не проверяет его результат. Полезное применение начинается не с максимального числа автоматизированных задач, а с правильного выбора тех процессов, где ошибка допустима и контролируема.

Будущее зависит от правил игры

Спор об искусственном интеллекте часто сводится к выбору между технологическим оптимизмом и страхом перед катастрофой. Но реальная задача сложнее: общество должно получать пользу от новых инструментов и одновременно ограничивать ущерб. Оценка международных экспертов показывает, что даже при разумных мерах предосторожности некоторые риски остаются существенными. Это не доказывает неизбежность катастрофы, но указывает на необходимость системного контроля.

Не запрет, а управляемое развитие

Полный отказ от ИИ лишил бы общество многих полезных возможностей в науке, медицине, образовании и производстве. Однако бесконтрольное внедрение создаёт риск, что последствия будут обнаружены только после серьёзного ущерба. Более реалистичный путь включает испытания перед выпуском, независимую проверку, мониторинг после внедрения и понятные механизмы компенсации. Уровень требований должен зависеть от того, насколько серьёзными могут быть последствия ошибки.

Открытость и концентрация власти

Передача контроля над наиболее мощными системами небольшой группе компаний может облегчить координацию мер безопасности, но одновременно ослабить конкуренцию и общественный надзор. Полная открытость тоже несёт риски, если опасные возможности становятся доступны без ограничений. Поэтому задача состоит не в выборе между абсолютной секретностью и полным раскрытием, а в создании дифференцированного доступа, независимых проверок и прозрачных правил. Такой подход позволяет сочетать инновации с контролем последствий.

Что покажет ближайшее десятилетие

Главным показателем успеха станет не число выпущенных моделей и не скорость роста вычислительных мощностей. Важнее, удастся ли повысить производительность без массового ухудшения условий труда, сократить экологическую нагрузку и предотвратить опасное использование технологии. Не менее значимым будет распределение выгод между разработчиками, работниками и обществом. Если прогресс сопровождается прозрачностью и ответственностью, ИИ сможет принести широкую пользу; если нет, технологические достижения могут усилить уже существующие проблемы.

Итог без обещаний и паники

Позиция Сэма Альтмана отражает уверенность в том, что положительный эффект искусственного интеллекта превысит отрицательный. Однако такая уверенность не отменяет необходимости проверять риски и заранее готовиться к нежелательным сценариям. Оценки специалистов показывают, что угрозы охватывают безопасность, экономику, экологию и концентрацию власти, причём наиболее уязвимые люди не всегда могут влиять на решения разработчиков. Разумный подход заключается в том, чтобы развивать полезные возможности ИИ и одновременно требовать доказуемых мер защиты.

Польза должна подтверждаться на практике

ИИ уже способен ускорять многие задачи, но его эффективность зависит от качества данных, характера работы и компетентности пользователя. Экономия времени не всегда превращается в рост благосостояния, а автоматизация не гарантирует сокращения нагрузки. Поэтому результаты внедрения нужно оценивать по реальным последствиям для людей, организаций и окружающей среды. Красивые обещания не заменяют измеримых улучшений.

Опасения требуют конкретных действий

Исследования катастрофических рисков не позволяют точно предсказать будущее, но помогают определить области, которым требуется повышенное внимание. К ним относятся кибербезопасность, опасные возможности моделей, дезинформация, экологические последствия и чрезмерная концентрация власти. Игнорировать такие предупреждения столь же неразумно, как считать худший сценарий неизбежным. Лучший ответ на неопределённость заключается в проверках, регулировании и готовности исправлять ошибки.

Не смирение, а ответственность

Обществу не обязательно принимать вред как неизбежную плату за прогресс. Необходимо определить, какие риски допустимы, кто имеет право их принимать и кто отвечает за последствия. Разработчики должны обеспечивать безопасность систем, государства обязаны устанавливать и контролировать правила, а организации должны защищать работников и клиентов. Искусственный интеллект может стать источником значительной пользы, но доверие к нему придётся заслужить реальными результатами и ответственным управлением.

OpenAI добавляет визуальную рекламу в ChatGPT