НаверхИИ не справится: 9 задач программирования, где человек вне конкуренции
Почему ИИ не заменит программистов? Разбираем 9 задач, где искусственный интеллект бессилен или выдаёт рискованный код.
Всё кончено. Программирование как профессия умерло. Просто подпишитесь на сервис ИИ-кодирования и позвольте ИИ сделать всю работу. Верно?
Несмотря на то, что технологические компании, такие как Microsoft, тысячами увольняют программистов, искусственный интеллект не может и не будет единственным создателем кода. На самом деле существует множество задач по программированию, для которых ИИ не подходит.
В этой статье я расскажу о девяти задачах программирования, для решения которых не следует использовать ИИ. Дочитайте до конца, потому что я приведу 10-ю бонусную причину, по которой не стоит всегда использовать ИИ для программирования. Не говоря уже о том, что такое может произойти.
1. Сложные системы и проектирование высокого уровня
Вот в чём дело. Генеративные системы искусственного интеллекта — это, по сути, сверхумные автодополнители. Они могут предлагать синтаксис, писать код и вести себя так, будто понимают концепции. Но всё это основано на вероятностных алгоритмах и огромном количестве информации, собранной из интернета. Контекстный интеллект — это не сильная сторона. Просто попробуйте немного пообщаться с ИИ, и вы увидите, что он теряет нить разговора.
Если вам нужно создать что-то, что требует глубокого понимания принципов взаимодействия систем, опыта принятия компромиссных решений, понимания того, что подходит для ваших уникальных потребностей, а также учёта того, как всё это согласуется с вашими целями и ограничениями, не нанимайте ИИ.
2. Собственные кодовые базы и миграция
Большие языковые модели обучаются на общедоступных репозиториях и (простите за выражение) Stack Overflow. Да, некоторые из самых потрясающих кодовых баз находятся в общедоступных репозиториях, но это не ваш код. Вы и ваша команда знаете свой код. ИИ может только делать выводы о вашем коде на основе того, что ему известно о чужом коде.
Скорее всего, если вы дадите ИИ свой собственный код и попросите его сделать что-то масштабное, он вставит множество строк правдоподобно выглядящего кода, который просто не будет работать. Я считаю, что использование ИИ для написания небольших фрагментов кода, которые в противном случае мне пришлось бы искать в открытых источниках, может сэкономить огромное количество времени. Но не стоит делегировать свою уникальную ценность машине для печати.
3. Инновационные разработки
Если вы хотите создать алгоритм, которого раньше не было, — возможно, чтобы обеспечить своей организации огромное конкурентное преимущество, — наймите специалиста по информатике. Не пытайтесь сделать из ИИ новатора. ИИ может творить чудеса, придавая шаблонам инновационный вид, но если вам нужно по-настоящему нестандартное мышление, не используйте «мозг в коробке».
Это относится не только к функциональному программированию, но и к дизайну. Честно говоря, ИИ может создавать потрясающий дизайн. Но если вы разрабатываете новую игру, возможно, вам захочется самостоятельно продумать большую часть креативного дизайна, а затем использовать ИИ для рутинной работы.
Конечно, многие из нас всю жизнь повторяют как попугаи то, что услышали от других людей или от какого-нибудь чудаковатого подкастера. Но есть по-настоящему творческие люди. Эта креативность может стать стратегическим преимуществом. Хотя ИИ может выполнять большой объём работы, он не способен совершать интеллектуальные скачки на неизведанных путях.
4. Критически важные программы безопасности и аудит
Не позволяйте лисе охранять курятник. По сути, мы действительно не знаем, что будут делать ИИ и когда они выйдут из-под контроля. Хотя использование ИИ для выявления вредоносной активности имеет смысл, код, сгенерированный ИИ, всё ещё довольно ненадёжен.
CSET (Центр безопасности и новых технологий) при Джорджтаунском университете опубликовал исследование в конце прошлого года, основанное на формальном тестировании. Они обнаружили, что почти половина фрагментов кода, созданных искусственным интеллектом, «содержит ошибки, которые часто приводят к серьёзным последствиям и потенциально могут быть использованы злоумышленниками.»
Это согласуется с результатами моего собственного тестирования. Я регулярно тестирую ИИ на предмет эффективности кодирования, и даже в прошлом месяце только пять из 14 лучших протестированных больших языковых моделей прошли все мои базовые тесты.
Серьезно, ребята. Позвольте ИИ вам помочь. Но не доверяйте ИИ ничего по-настоящему важного. Если вам нужно разобраться в криптографических алгоритмах, управлении аутентификацией, устранении уязвимостей нулевого дня или подобных задачах по программированию, пусть этим займется настоящий человек.
5. Код, требующий соблюдения правовых или нормативных требований
Существуют законы — их много, особенно в сфере здравоохранения и финансов. Я не юрист, поэтому не могу сказать, какие именно это законы. Но если вы работаете в отрасли, которая регулируется законодательством или изобилует судебными разбирательствами, вы, вероятно, знаете об этом.
Также можно привести аргумент в пользу того, что вы не можете быть уверены в безопасности облачных LLM. Конечно, поставщик может заявить, что ваши данные не используются для обучения, но так ли это? Если вы обязаны соблюдать требования HIPAA или Министерства обороны США по обеспечению безопасности, вам может быть запрещено делиться своим кодом с болтливым чат-ботом.
Вы действительно хотите доверить свой бизнес коду, написанному Бендером из «Футурамы»? Да, возможно, у вас есть люди, которые перепроверяют код. Но мы, люди, несовершенны и можем что-то упустить.
Подумайте о человеческой природе. Если вы считаете, что ваш оппонент придерётся к вам из-за человеческой ошибки, вы, вероятно, правы. Но если вы поленились написать собственный код и поручили это искусственному интеллекту, который, как известно, склонен к галлюцинациям, то у ваших конкурентов будет отличный повод посмеяться над вашим будущим.
6. Бизнес-логика для конкретной области
Вы знаете, каково это, когда в компанию приходит новый сотрудник и ему требуется время, чтобы понять, чем вы занимаетесь и как вы это делаете? Или, что ещё хуже, когда вы объединяете две компании и сотрудникам каждой из них сложно вникнуть в культуру и методы работы другой компании?
Да. Попытка заставить ИИ написать код для ваших уникальных бизнес-операций обречена на провал. Помните, что ИИ обучается на большом объёме общедоступных знаний. Давайте определимся с этим. Общедоступные знания — это любые знания, которые могут быть известны широкой публике. ИИ обучался на всём, что мог собрать из интернета, с разрешения или без него.
Но ИИ не обучен вашим внутренним бизнес-знаниям, коммерческим тайнам, практикам, фольклору, давно существующим обходным путям и так далее. Используйте ИИ для того, в чём он хорош, но не пытайтесь убедить его сделать то, чего он не умеет. ИИ настолько услужлив, что попытается это сделать — и, возможно, никогда не скажет вам, что то, что вы только что внедрили, было бесполезным мусором.
7. Работа низкоуровневых систем и оптимизация производительности
Хотя ИИ может выявлять участки кода, которые можно оптимизировать, у него есть свои ограничения. ИИ не обучен тонкостям микроархитектурных ограничений, и у него нет опыта в том, чтобы выжать максимум из каждой строки кода.
Большая часть кода, используемого при программировании встраиваемых систем, разработке ядра и оптимизации C и C++ для повышения производительности, написана несколькими опытными программистами. Кроме того, имейте в виду, что ИИ склонны к конфабуляции. Поэтому то, что они могут называть повышением производительности, на самом деле может быть скрытой утечкой ресурсов, в которой они просто не хотят признаваться.
Если вам нужен высококлассный специалист, вам понадобится высококлассный специалист — в данном случае очень опытный программист.
8. Учебные упражнения и образовательные задания
Если вы используете ИИ, значит ли это, что вы списываете? Да. Нет. Зависит от ситуации. Да, потому что вы можете нарушать академические стандарты и лишать себя критически важного практического обучения, которое помогает закрепить знания. Нет, потому что ИИ зарекомендовал себя как отличное вспомогательное средство, особенно когда нет возможности обратиться к преподавателю. И да, и нет, потому что это всё ещё довольно неизученная область.
Гарвард занимает промежуточную позицию со своим замечательным курсом CS50 «Введение в информатику». Он предлагает «утку» CS50 (это долгая история) — искусственный интеллект, специально обученный на материалах курса, с системными инструкциями, которые ограничивают объём предоставляемой студентам информации. Таким образом, ИИ помогает отвечать на обоснованные вопросы студентов, но не делает за них их работу.
Если вы студент или преподаватель, ИИ станет для вас настоящим благом. Но будьте осторожны. Не обманывайте и не используйте его для сокращения объёма работы, которую вам действительно нужно выполнить, чтобы получить образование. Но подумайте о том, как он может помочь вам в учёбе или в выполнении требований студентов.
9. Сотрудничество и работа с людьми
Я обнаружил, что если я отношусь к чат-боту с искусственным интеллектом так, как если бы это был другой программист-человек на другом конце канала Slack, то могу многого добиться на этом уровне «сотрудничества». Многого, но не всего.
И люди, и ИИ могут проявлять упрямство, глупость и раздражительность во время долгого и непродуктивного разговора. Людей обычно можно вывести из этого состояния и убедить помочь, по крайней мере в профессиональной среде. Но как только вы достигаете предела возможностей или знаний ИИ, разговор становится пустой тратой времени.
Лучшие совместные проекты — это настоящее волшебство. Когда команда в ударе — работает сообща, обменивается идеями, решает проблемы и распределяет нагрузку, — могут происходить удивительные вещи.
Компании, занимающиеся искусственным интеллектом, утверждают, что рабочая сила, состоящая из агентов, может обеспечить такую же синергию, но ничто не сравнится с работой в команде, где все работают на полную катушку. Не только с точки зрения продуктивности (которую вы получаете), но и с точки зрения качества трудовой жизни, долгосрочной эффективности и, да, удовольствия.
Не поймите меня неправильно. Некоторые из моих лучших друзей — роботы. Но некоторые из моих лучших друзей — люди, с которыми меня связывают долгие, глубокие и полноценные отношения. Кроме того, я никогда не встречал искусственный интеллект, который мог бы приготовить мусаку мистера Амонтиса или яблочный пирог тётушки Паулы.
Бонус: не используйте ИИ для того, чем хотите владеть сами
Не используйте ИИ для создания чего-либо, что, по вашему мнению, должно принадлежать вам. Если вы пишете код, который затем публикуете как открытый исходный код, это может не быть проблемой. Но если вы пишете проприетарный код, который хотите оставить себе, возможно, вам не стоит использовать ИИ.
Мы спросили об этом нескольких юристов ещё на заре генеративного ИИ, и все они сошлись во мнении, что авторское право зависит от того, было ли произведение создано человеком. Если вы хотите быть уверены, что никогда не окажетесь в суде, пытаясь защитить своё право на собственный код, не пишите его с помощью ИИ.
А что насчёт вас? Не слишком ли вы полагаетесь на ИИ при написании кода? Где вы проводите черту между удобством и осторожностью? Есть ли какие-то задачи по программированию, в которых ИИ действительно полезен или может ввести в заблуждение? Приходилось ли вам отлаживать код, написанный ИИ, и задаваться вопросом, сэкономил ли он вам время или, наоборот, отнял его? Расскажите нам в комментариях ниже.
