Единствен пръстен ги владее, единствен той ще ги открие. Единствен вси ще ги сбере и в тъмнина ще ги обвие“.
Това е изписано на Единствения пръстен от фентъзи романите на Дж. Р. Р. Толкин „Господарят на пръстените“ и „Хобитът“. Създаден да може да контролира останалите магически пръстени, той притежава изключителна мощ.
Този който го носел бива възнаграден с огромни свръхестествени сили. Проблемът е, че в един момент пръстенът започва да влияе на своя собственик, да го прави зависим от него и в един момент – да го отслабва. Той става притегателен инструмент за власт и сила, както на добри, така и на лоши персонажи. В поредицата на Толкин, главните герои непрекъснато са изкушавани от него. След като става ясно, че който го носи рано или късно губи контрол над пръстена, добрите сили решават да го унищожат.
Развитията в сферата на генеративния изкуствен интелект (AI) от последното десетилетие започват да наподобяват творбите на Толкин. Новата технология постепенно се превръща в Единствения пръстен – обсебваща, изкушаваща с потенциала си, но и с голяма вероятност в един момент да не може да бъде контролирана. Силата, която притежава може да ни отключи невероятно благоденствие или пък да ни заличи като цивилизация.
Битката се разиграва между основните технологични гиганти, някои от най-влиятелните милиардери на планетата, а отскоро включване и на основните държави в опит да регулират AI. Както възможностите на изкуствения интелект тепърва ще се разкриват, също така това ще се случва с опасностите и зависимостите. Дали в един момент няма да сме изправени пред избора да унищожим тази технология преди да е станало късно по подобие на Единствения пръстен или това сравнение просто ще загуби актуалност във времето е един хубав въпрос над който може би е хубаво да се замислим.
Двете визии – Мъск срещу Пейдж
Юли месец 2015 г., милиардерът Илон Мъск празнува 44-ия си рожден ден на парти с около 30 човека. Гостите се забавляват, а рожденикът релаксира до лагерен огън в близост до басейна, заедно с дългогодишният си приятел и тогавашен главен изпълнителен директор на Google Лари Пейдж. В един момент разговорът прераства в яростен спор за това дали изкуственият интелект ще възвиси или унищожи човечеството.
Пейдж излага визия за дигитална утопия в която рано или късно хората ще се слеят с AI. Различните форми на интелигентност (човека самостоятелно, AI с човек или само AI – бел. ред.) ще се конкурират за контрол и една от тях ще излезе победител. Мъск от своя страна го контрира, че ако това се случи ще е краят за нашата цивилизация. Просто защото машините ще ни унищожат.
Пейдж е напълно убеден, че това е посоката, която трябва да се преследва. Той стига дори до крайност, като обижда Мъск на „видист“ – човек, който защитава неприкосновеността на различните живи видове. В контекстът, значението има и друг смисъл, че милиардерът е против технологичният напредък. По-късно, Мъск коментира, че тази обида е „последната капка“ в отношенията между двамата. Спорът толкова се разгорещява, че в един момент всички гости на партито се скупчват около тях.
Първи беше DeepMind
Историята е повече интересна и разказана за първи път в детайли от New York Times. Както и самото щатско издание подчертава, този спор полага основите на последвалата надпревара за контрола над AI, която продължава до момента, но кулминира със скандалите около OpenAI в края на 2023 г. Визията на Пейдж кореспондира с дългосрочните стратегии на технологичните гиганти, които искат да разработят новата технология в затворена среда. Тоест, те единствени да знаят какво се случва, на какво са способни техните AI системи и съответно на кой и колко да предлагат.
Но преди да се стигне до OpenAI, битката между Пейдж и Мъск се пренася към друга обещаваща компания – DeepMind. Основана през 2010 г. в опит да се разработи генерален изкуствен интелект (AGI) или система, която да е равнопоставена и дори да превъзхожда човешкия. Алгоритмите на DeepMind постепенно започнаха да се обучават да играят различни ретро гейм заглавия.
Техният прогрес привлича погледите, както на Мъск, Пейдж, така и на повечето технологични гиганти. Първоначално някои от тях, включително и екстравагантния милиардер стават миноритарни инвеститори. Но в един момент апетитът за DeepMind става прекалено голям. Стига се буквално до аукцион за DeepMind в края на 2012 г., в който участва почти цялата Силициева долина. По-малките окапват бързо, в един момент и Microsoft се отказва. Остават Google и Facebook. Първите предлагат 650 млн. долара, вторите повече, но при по-неблагоприятни условия. Така, DeepMind става притежание на Google, като сделката е финализирана чак през 2014 г.
Близо една година още минава в преходен период, в който старите акционери все още присъстват под формата на етичния борд към AI компанията. Но след като Google напълно овладява DeepMind, този своеобразен съвет е разпуснат след едва една среща през август 2015 г. Технологичният гигант затваря за външни лица последващите действия на екипа на звеното.
OpenAI – резервният вариант
Таймингът е брутален – DeepMind е овладян малко преди спорът между Мъск и Пейдж. Месец след него, Google премахва етичния борд на компанията. Горе-долу по същото време Мъск се среща със Сам Алтман, а през декември 2015 г. последният основава OpenAI, заедно с Илия Суцкевер, Грег Брокман и няколко други големи имена в областта. Милиардерът също влиза в борда на директорите.
Всичко това е форсирано от скоростния и скрит вече напредък на DeepMind и Google. Алгоритмите на новото AI звено успява да победи на древната игра Go световният шампион. Историческото постижение допълнително тласка Мъск да действа със свой аналог на DeepMind. OpenAI влиза в точно тази роля, като е основана първоначално като дружество с идеална цел. В същият момент разработките трябва да са в отворен код, който постепенно да бъде предоставян на всеки желаещ.
Това е визията на Мъск за развитие на AI – прозрачно и контролирано от общността разработване на новата технология. При това от дружество, което не работи за печалба. Осигурените първоначални инвестиции трябваше да осигурят оперативните разходи на OpenAI. През 2017 г. обаче се случват две неща. Първото е, че Мъск е притиснат да намали компаниите, които „надзирава“ и се оттегля от борда на директорите.
Второто е, че OpenAI свършва парите и Алтман намира ново финансиране от Microsoft. Излизането на Мъск от борда развързва ръцете на главния изпълнителен директор и той създава през 2018 г. търговско дружество в рамките на това с идеална цел. Това създава един дуализъм в рамките на OpenAI, който позволява на компанията да преследва печалба, въпреки все още алтруистичната си специфика.
Краят на „дуализма“
Последствията от тези действия са съдбоносни за OpenAI. В рамките на пет години Microsoft се превръща в най-големия акционер в компанията, като е налял над 13 млрд. долара. През това време дуалистичното дружество представя сензацията ChatGPT, както и няколко други съпътстващи платформи като Dall-E и др. Те отварят вратите за т.нар. генеративен AI, в който потребителите могат да създават разнообразно съдържание само чрез задаването на базови параметри чрез текст (или глас).
Microsoft се възползва максимално от това партньорство и започна интеграция на инструментите на OpenAI в своите платформи. AI компанията започна да налага почти пълната палитра от актуални бизнес практики в софтуерната индустрия. Създаде платен абонамент за повечето си функционалности, започна да предлага и допълнителни услуги за корпоративни клиенти.
Всичко това предполага все по-голямото затваряне на OpenAI и преминаването от визията на Мъск, към тази на Пейдж. Накрая, ситуацията ескалира с отстраняването на Алтман и първоначалния бунт на борда срещу него. Microsoft се намесва и де факто предоставя избор – унищожаване на OpenAI с преливането на целия персонал в софтуерния гигант или запазване на обновената визия на компанията. Историята сме я описали по-подробно в нашия разбор от миналата година. Краят ѝ обаче елиминира дуализма в OpenAI, която вече прегръща изцяло ролята си на партньор на Microsoft.
Падна ли последната крепост
Визията на Пейдж изглежда излиза победител за момента. Google, Facebook, Amazon и др. развиват собствени затворени AI модели. OpenAI е в плътната прегръдка на Microsoft и достъпът до нейните постижения ще бъде напълно отрязан за външния свят. За момента това са и основните играчи, които могат да предложат толкова прецизни генеративни AI модели. Които еволюират доста бързо, предвид напредъкът на технологията за последните две години.
Илон Мъск не се отказва лесно и през март 2023 г. основава xAI – поредната собствена компания за развитие на изкуствен интелект. В рамките на шест месеца е пуснат и първия езиков модел Grok, който трябва да бъде аналог на ChatGPT. Той обаче се оказва проблемен и с доста повече „халюцинации“ от основните си конкуренти.
Това е състояние в което, когато AI алгоритмите не могат да намерят отговор на заданието си измислят собствен. Подобни действия може да са насърчаващи за творческа работа, но не и когато такава трябва да е базирана на проверируеми факти. Моделите на OpenAI, Google и другите също не са застраховани от „халюцинации“, но при Grok нещата бяха малко по-екстремни. Все пак постиженията на xAI за половин година са повече от обещаващи и дават поне някаква надежда, че ще има кой да реализира визията на Мъск за развитие на AI.
Генералният AI – истинският единствен пръстен
Формалният повод на борда на директорите на OpenAI да отстрани Алтман може да се окаже ключът към създаването на този Единствен пръстен на изкуствения интелект. Според Илия Струцкевер, главният изпълнителен директор е укривал ключови технически пробиви от останалите, както се е отклонил прекалено много от първоначалната идея на компанията.
В писмо до борда, инженери от OpenAI твърдят, че са постигнали значителен напредък при генералния изкуствен интелект (AGI). Различните езикови модели до момента като ChatGPT могат да бъдат оприличени като по-малките пръстени от поредицата на Толкин. Генералният AI влиза в ролята на Единствения пръстен, който ги контролира. Конкретно за OpenAI става дума за проекта Q* или Q-Star.
Този алгоритъм има за цел да се научи да решава самостоятелно математически задачи. За разлика от останалите модели, при него се изисква достигането на много точен и единствен отговор. Калкулаторите и компютрите решават подобни уравнения от десетилетия, но те извършват само пресмятанията и дават отговора, но не и пътя до него. Формулите и начина за изчисляване досега се подаваше от хора. Q-Star трябва да премахне човешкия фактор. Инженерите от OpenAI твърдят, че новият модел вече решава задачи от основното училище. Тяхното писмо до борда е било изпратено ден преди уволнението на Алтман и се смята за основен катализатор за това решение.
Математическият AI ще е първата голяма стъпка към създаването на AGI, смятат някои експерти. Други отиват по-далеч, като казват, че такива алгоритми вече постигат първите степени на такъв генерален изкуствен интелект. Във всички случаи евентуалното достигане на функциониращ AGI ще доведе до състояние, в което двете визии на Мъск и на Пейдж ще бъдат поставени на изпитание.
Назряващата съпротива
Налагането на изкуствения интелект се смята, че ще доведе до истинска индустриална революция. Някои прогнози дори смятат, че тя ще има значително по-голям трансформационен характер отколкото досегашните. Ефектите от генеративния AI започват да се усещат. Редица държави, сред които Европейския съюз (ЕС), САЩ и Китай започнаха да създават закони, които да регулират новата технология. В същия момент, някои ключови играчи в различни сектори предприемат различни действия ако не да спрат, то поне да направят приемането на AI по-контролиран процес.
Докато ЕС първи скочи в лодката за регулиране на новата технология, то почти също толкова бързо включване на САЩ и Китай може да се каже, че е изненадващо. Брюксел се опитва по типичния си бюрократичен начин да обхване максимално всичко свързано с AI – разработване, прилагане, обучение, данни и др. От друга страна, ЕС тръгва да пречупва своите правила по-скоро в това изкуствения интелект да не се използва за следене, отколкото за това кой притежава контрола над алгоритмите – хората или самите машини. Но поне ограничава до кои системи може да се прилага.
САЩ и по-скоро Белия дом предложиха пътна карта за създаване на ново законодателство, което да обхваща и AI. За момента визията на Вашингтон не е напълно изкристализирана, но практиката досега показва, че най-вероятно ще се действа на парче с множество закони и нормативни актове. Китай също за момента е очертала 24 насоки за AI, които по-скоро обхващат само генеративния изкуствен интелект.
Докато най-влиятелните световни правителства все още се ориентират в посоката на регулациите, компании от различни сектори взимат мерки. Някои като Canon, Adobe и др. създават механизми за разпознаване и дигитално маркиране на AI създадено съдържание. Други като New York Times решават да съдят OpenAI и Microsoft за нарушаване на авторските права при обучението на алгоритмите.
Пълна неподготвеност
Последният пример показва, че законодателствата по света не са готови за AI технологията. Друг е въпросът, че точно авторското право никога не е било коректно адаптирано за иновациите от близо век. Последните големи промени бяха свързани с дигитализацията на съдържанието, но те реално бяха автоматично пренасяне на старото законодателство, което да обхване новите формати. Битката в този сектор ще бъде доста силна, предвид силното лоби и на двете страни.
Желанието за регулиране показва няколко неща. Първо, че светът не е готов да посрещне нарастващата мощ на AI, дори и само тази на „по-малките пръстени“ или езикови модели. Второ, възможността за контрол над алгоритмите също изглежда, че лесно може да се изплъзне от ръцете на човека. Пак говорим за по-простите езикови модели и може само да гадаем докъде могат да се разпрострат възможностите на напълно развит AGI. С което отново се сблъскваме със спора от началото между Мъск и Пейдж. В момента сме поели повече по пътя на втория, но все още не е късно да сменим с този на първия.