Я в восторге от последних разработок в области искусственного интеллекта (ИИ) и их потенциала в качестве мощных инструментов. Я также обеспокоен непредвиденными последствиями. Как и в случае с любым действительно мощным инструментом, существует вероятность злоупотреблений, а также сбоев. Но я также считаю, что недавние призывы приостановить разработку ИИ или опасения, что ИИ может стать сознательным, являются ошибочными и граничат с паникой.
Я не думаю, что нам следует приостанавливать разработку ИИ. На самом деле, я думаю, что дальнейшие исследования и разработки – это именно то, что нам нужно. Недавние разработки в области искусственного интеллекта, такие как генеративные предварительно обученные трансформаторы (GPT), значительно расширили возможности ИИ. Они являются еще одной демонстрацией того, насколько мощным может быть узкий ИИ, без необходимости в общем ИИ или чем-то подобном сознательному. Что, на мой взгляд, пугает многих людей, так это то, насколько хорошо ИИ на основе GPT, обученный на миллиардах примеров, может имитировать поведение человека. Я думаю, это в равной степени связано с тем, насколько мы недооцениваем, насколько производным является наше собственное поведение, и насколько мощными являются эти ИИ.
Большая часть нашего поведения и речи – это просто подражание культуре, в которую мы встроены. Большинство из нас могут прожить свой день без единой оригинальной мысли, полностью полагаясь на готовые фразы и взаимодействия. Возможно, имитация человеческой речи – это гораздо более низкая планка, чем нам хотелось бы себе представить. Но, тем не менее, эти большие языковые модели впечатляют. Они представляют собой прорыв в технологии, позволяющий взаимодействовать с людьми на естественном языке, который является последовательным и грамматически правильным. Но они остаются немного хрупкими. Потратьте сколько-нибудь значительное время на общение с одной из этих обширных языковых моделей, и вы поймете, насколько общими и бездушными являются ответы. Это похоже на игру в видеоигру – даже при действительно хорошем ИИ, управляющем поведением неигровых персонажей в игре, они в конечном счете предсказуемы и совсем не похожи на взаимодействие с реальным разумным существом.
Нет сомнений в том, что с дальнейшим развитием эти системы ИИ станут лучше. Но я думаю, что это хорошо. Сейчас они впечатляют, но имеют недостатки. Например, поисковые системы, управляемые искусственным интеллектом, склонны что-то выдумывать. Это потому, что они прогнозируют информацию и генерируют ответы, а не просто копируют информацию или ссылаются на нее. То, как они делают прогнозы, по иронии судьбы, трудно предсказать. Они используют короткие пути, которые в большинстве случаев действительно эффективны, но также приводят к ошибочным результатам. Они являются эквивалентом эвристики в ИИ, эмпирическими правилами, которые работают, но не совсем. Полезно знать, как предотвращать подобные ошибки.
Так в чем же настоящая проблема? Насколько я могу судить по открытым письмам и статьям, это всего лишь смутный страх, что мы потеряем контроль над этими мощными инструментами или уже потеряли его. Это выражение принципа предосторожности, который, по сути, хорош, но которым легко злоупотребить или переоценить. Именно это, я думаю, и происходит здесь.
Одна из проблем заключается в том, что искусственный интеллект может нарушить работу на рабочем месте. Я думаю, что этот корабль отплыл, даже если он еще не скрылся из виду. Я не понимаю, чем поможет пауза. Рынку необходимо разобраться с конечными последствиями.
Еще одна проблема заключается в том, что ИИ можно использовать для распространения дезинформации. Опять же, мы уже на пути к этому. Однако вполне обоснованно беспокойство по поводу того, насколько более мощная дезинформация будет подпитываться более мощными алгоритмами или глубокими подделками.
Существует опасение, что ИИ, по сути, будут отвечать за важные части нашего общества и потерпят неудачу непредсказуемым и катастрофическим образом.
И, наконец, есть опасения, что ИИ станет сознательным или, по крайней мере, разовьет новые формы поведения и способности, которые мы не понимаем. Меня это не беспокоит. ИИ не собирается просто так становиться сознательным. По причинам, которые я недавно объяснил, это не работает.
Я думаю, что отчасти паника вызвана распространенным заблуждением футуристов – переоценивать краткосрочный прогресс и недооценивать долгосрочный. В системах искусственного интеллекта только что произошел прорыв, и это заставляет думать, что прогресс будет продолжаться такими темпами. Но это редко бывает так. ИИ не собираются ломать мир или становиться сознательными. Они по-прежнему тупы и хрупки во всех отношениях, в отличие от узкого ИИ.
Вот что, я думаю, нам действительно нужно сделать. Во-первых, нам нужно выяснить, в чем хороши эти новые программы искусственного интеллекта, а в чем нет. Как и в любой новой технологии, если вы дадите ее в руки миллионам людей, они быстро разберутся, как ее можно использовать. Очевидные области применения не всегда являются лучшими. Микроволновые печи были разработаны для приготовления пищи, в чем они ужасны, но они превосходно разогревают пищу. Смартфоны используются не только для телефонов, которые в настоящее время являются почти второстепенной функцией. Так для чего же на самом деле будут полезны GPT-ИИ? Посмотрим. Я знаю некоторых людей, которые используют их для составления контрактов. Возможно, они будут работать как личные помощники, а возможно, они будут ужасны в этой задаче. Нам нужны исследования и использование, чтобы разобраться в этом, а не пауза.
Возможно, потребуется какое-то регулирование, но я бы на вашем месте действовал очень осторожно. Некоторые эксперты предупреждают о проблеме “черного ящика”, и, похоже, это можно легко исправить. Включите в программу внутреннюю отчетность по методу, чтобы ее можно было просмотреть. Нам также необходимо решить вопросы с правами собственности, особенно в отношении программ в области генеративного искусства. Возможно, художники должны иметь право отказаться (или не использовать) от своих работ в качестве обучающих данных. Нам также может понадобиться гарантия качества, прежде чем программы искусственного интеллекта получат контроль над какой-либо системой, например, над одобрением самоуправляемых автомобилей.
Я не думаю, что в этом есть необходимость. Я думаю, что это произойдет само собой – уже поговаривают о снижении отдачи от GPT-приложений с точки зрения их повышения производительности. Их доработка, улучшение качества, исправление недостатков и поиск новых приложений теперь потребуют времени. Не останавливайтесь сейчас, пока мы находимся в сложной фазе. Я также думаю, что эксперты должны четко понимать – эти системы не обладают сознанием, они не имеют ничего общего с сознанием, и они не находятся на пути к тому, чтобы стать сознательными.
