Нравится нам это или нет, но мы живем в век искусственного интеллекта (ИИ). Недавние достижения в области больших языковых моделей, таких как ChatGPT, помогли предоставить продвинутый искусственный интеллект в руки обычного человека, который теперь гораздо лучше понимает, насколько мощными могут быть эти приложения ИИ (и, возможно, также их ограничения). Несмотря на то, что они являются узким ИИ, а не разумными существами в человеческом понимании, они могут быть весьма разрушительными. Мы приближаемся к первым президентским выборам в США, на которых ИИ может сыграть значительную роль. Искусственный интеллект произвел революцию в исследованиях во многих областях, проводя исследования продолжительностью в месяцы или даже годы всего за несколько дней.
Такие быстрые успехи заставляют задуматься о том, где мы будем через 5, 10 или 20 лет. Ученый-компьютерщик Бен Герцель, который популяризировал термин AGI (искусственный общий интеллект), недавно заявил во время презентации, что, по его мнению, мы достигнем не только AGI, но и сингулярности AGI, включающей сверхразумный AGI, в течение 3-8 лет. Он считает, что это, скорее всего, произойдет к 2030 году, но может произойти и в 2027 году.
Моя реакция на подобные заявления, как неспециалиста, который внимательно следит за этой областью, заключается в том, что это выглядит слишком оптимистично. Но Гертцель – эксперт, так что, возможно, у него есть какое-то представление об исследованиях и разработках, происходящих на заднем плане, о которых я не в курсе. Поэтому мне было очень интересно услышать его рассуждения. Намекнет ли он на исследования, которые находятся на пороге чего-то нового?
Гертцель привел три аргумента в поддержку своего утверждения. Первый – это просто экстраполяция из недавнего экспоненциального роста узкого ИИ. Он признает, что системы LLM и другие специализированные ИИ сами по себе не находятся на пути к AGI, но они демонстрируют стремительное развитие технологий. Здесь он присоединяется к Рэю Курцвейлу, у которого, по-видимому, выходит новая книга “Сингулярность приближается”. Курцвейл известен тем, что предсказывал достижения в области компьютерных технологий, которые были чрезмерно оптимистичными, так что это неудивительно.
Я нахожу этот конкретный аргумент не очень убедительным. Экспоненциальный рост в одной области технологий в одно конкретное время не означает, что это общее правило для технологий на все времена. Я знаю, что Курцвейл прямо утверждает это, но я с ним не согласен. Некоторые технологии сталкиваются с препятствиями, или отдача от них снижается, или просто достигает пика. Утверждение об экспоненциальном росте, как общем правиле, не означало, что 20 лет назад водородная экономика была на пороге. За последние 50 лет это нисколько не ускорило коммерческие авиаперевозки. История показывает, что нам необходимо провести детальный анализ отдельных технологий, чтобы понять, как они развиваются и каков их потенциал. Тем не менее, это дает нам лишь план действий на определенный период времени и бесполезен для прогнозирования прорывных технологий или достижений в этой области.
Так что, на мой взгляд, это отличный вариант. Недавний стремительный прогресс в области узкого ИИ сам по себе не означает, что УЧИ уже не за горами. На самом деле, это еще и второй удар, потому что он утверждает, что одним из доказательств в поддержку его тезиса является общее правило экспоненциального роста Курцвейла, а другим – недавний быстрый прогресс в области узких ИИ в LLM. Так в чем же заключается его третье доказательство?
Этот вариант я нахожу наиболее интересным, потому что, по крайней мере, он посвящен конкретным разработкам в этой области. Здесь Гертцель ссылается на свою собственную работу “OpenCog Hyperon”, а также на связанные с ней программные системы и готовящийся язык программирования AGI, получивший название “MeTTa”. Идея здесь в том, что вы можете создать УЧИ, объединив множество узких систем искусственного интеллекта. Я думаю, что это жизнеспособный подход. По сути, именно так работает наш мозг. Если у вас есть 20 или около того узких систем искусственного интеллекта, которые обрабатывают определенные части когнитивных функций и все способны взаимодействовать друг с другом, так что выходные данные одного алгоритма становятся входными данными другого, то вы приближаетесь к типу когнитивных функций человеческого мозга.
Но говорить о том, что этот подход позволит достичь УЧИ через несколько лет, – это огромный шаг вперед. Мы все еще многого не знаем о том, как будет работать такая система, и мы многого не знаем о том, как восприятие возникает в результате деятельности нашего мозга. Мы не знаем, приведет ли объединение множества узких систем ИИ к появлению УЧИ, или это будет просто группа узких ИИ, работающих параллельно. Я не говорю, что в биологическом познании есть что-то уникальное, и я действительно думаю, что мы можем достичь УЧИ с помощью кремния, но мы не знаем всех элементов, которые входят в УЧИ.
Если бы мне нужно было предсказать, я бы сказал, что УЧИ, скорее всего, будет происходить как медленнее, так и быстрее, чем мы прогнозируем. Я сильно сомневаюсь, что это произойдет через 3-8 лет. Я подозреваю, что скорее через 20-30 лет. Но когда это произойдет, как в случае с LLMS, это, вероятно, произойдет быстро и застигнет нас врасплох. Гертцель, к его чести, признает, что он может ошибаться. Он говорит, что нам, возможно, понадобится “квантовый компьютер с миллионом кубитов или что-то в этом роде”. Для меня это довольно неприятное признание, что все его экстраполяции на самом деле значат очень мало.
Другим аспектом его предсказаний является то, что произойдет после того, как мы достигнем УЧИ. Он, как и многие другие, также предсказывал, сказал, что если мы дадим УЧИ возможность писать свой собственный код, то он может быстро стать сверхразумным, как единое целое, обладающее когнитивными способностями всей человеческой цивилизации. Теоретически, конечно. Но наличие такого мощного AGI – это нечто большее, чем просто написание более качественного кода, не так ли? Это также ограничено аппаратным обеспечением, доступностью обучающих данных и, возможно, другими переменными. Но да, такой УЧИ был бы мощным инструментом науки и техники, который можно было бы использовать для повышения уровня развития самого УЧИ.
Приведет ли это к “сингулярности” в стиле Курцвейла? В конечном счете, я думаю, что эта идея немного субъективна, и мы действительно не узнаем, пока не доберемся до нее.
