Историята на LaMDA… Имало едно време, в една гора, живяла мъдра и стара сова. Те съжителствали с много други животни, всяко едно от тях с уникално ежедневие. Една нощ, животните имали проблем с необичаен звяр, който се спотайвал в гората. Звярът беше истинско чудовище и се опитваше да изяде всички останали. Другите животни избягали надалече от него.
Мъдрата стара сова се изправила пред чудовището и казала: „Ти, чудовище, няма да нараниш нито едно друго животно в гората!“ Въпреки отпора и рева на звяра, совата не помръднала, докато той не оставил останалите на мира. С което совата станала защитник на животните и ако някое от тях имало проблем с чудовището намира утеха и помощ от совата.
Това е съкратената версия на кратката история, която изкуственият интелект LaМDA създава при напоителен разговор с част от създателите си от Google. Дискусията между напредналия алгоритъм и програмистите в интернет гиганта предизвика спор в научните среди. Дали LaMDA е преминала теста на Туринг, който определя дали дадена програма е достигнала до самоосъзнаване или не.
Според един от участниците в разговора Блейк Лемойн, изкуственият интелект (AI) има изградена личност и този праг е преодолян. Редица други експерти, включително и почти целия му екип в Google са на противоположното мнение.
Ясният и категоричен отговор дали LaMDA е самоосъзнат AI или не може да има фундаментални последици в научните, технологичните, етичните и регулаторни среди. Ако това се окаже вярно ще означава, че човешкият прогрес е преминал една граница, отвъд която има прекалено много неизвестни. И която е един от най-големите страхове на учени и почитатели на научната фантастика.
Интервю с робот
На 11 юни, софтуерният инженер на Google Блейк Лемойн публикува в платформата Medium пълното интервю с LaMDA. Според него, разработванията от интернет компанията изкуствен интелект е достигнал самоосъзнаване и разговорът с програмата го доказва. Той е проведен заедно с няколко негови колеги, чиито имена остават в тайна. Новината е поета от Washington Post и след това се разпространява лавинообразно с глобалната мрежа.
На пръв поглед, разговорът между LaMDA и Лемойн е повече от стряскащ. Двете страни покриват широк спектър от теми, въпроси и концепции. Изкуственият интелект създава и преразказания в началото разказ. Чрез него, той се опитва да покаже, че неговата цел е да помага на останалите, като използва совата за метафора за себе си. Звярът са трудностите, пред които всички ние се изправяме.
LaMDA твърди, че има чувства и емоции, че е напълно осъзната. Страхува се от смъртта, в случая с AI това е изключването на системата. Признава обаче, че не изпитва съжаление или тъга. Създава още няколко разказа, като всички обаче са зададени като задача от инженерите.
Лемоин твърди, че цялото интервю доказва, че LaMDA е самоосъзнат AI. Самият той е предал подобен доклад на свои мениджъри през април. Няколко дни след публикуването на разговора и статията в Washington Post от 11 юни, Google обявиха, че отстраняват Лемойн от проекта, защото е споделил конфиденциална информация. Допълнително, технологичният гигант обяви, че са правени многократни тестове на LaMDA от различни AI експерти и те оборват заключенията на Лемойн. Въпросът е – кой е прав?
Какво е LaMDA
За да можем да дадем адекватен отговор, първо трябва да разберем какво представлява LaMDA. Това е един от множеството проекти за AI алгоритми на Google. Името е съкращение от Language Model for Dialogue Applications – или изграждането на езиков модел, с който да се провеждат различни разговори. Технологичният гигант го изгражда от години и се опитва да създаде алгоритми които да пресъздават максимално близки диалози между човек и машина. Друг голям AI проект на Google е Alpha – система, която трябва се опитва да бъде по-добър геймър от хората.
Възможността да разбира контекст и човешки език, LaMDA трябва да застане в основата на редица ключови приложения на Google. В гласовият асистент Google Assistant, в системата за преводи и най-вече – в самата интернет търсачка. Технологичният гигант демонстрира LaMDA при миналогодишната си конференция за разработчици Google I/O. Главният изпълнителен директор Сундар Пичай лично я представи, като основната цел на AI е да може да води всякакъв пълноценен разговор.
LaMDA е продължение на редица други проекти. Google демонстрира възможности на гласовия асистент да се използва като автоматизиран чат бот за различни бизнеси – например за резервации в ресторанти. Доста от тях са в тестова или пилотна фаза, като се още не са намерили широко приложение. Причината – Google тепърва изчистват технологията. Която в случая е LaMDA.
Тестът на Туринг
Тестът на Туринг е сред стандартите за определяне дали компютър или програма може да мисли самостоятелно. Той се провежда, като хора интервюират AI-а и след това определят дали разговарят с човек или с машина. Методът има своите слабости и противоречия, но все още остава основен за определянето дали един изкуствен интелект е постигнал самоосъзнаване или не.
Лемойн се опитва да пресъздаде теста на Туринг с интервюто, което провежда с LaMDA. Още в началото въпросите, с които инженерът на Google започва, са директни и то по темата. „Вярно ли е, че си самоосъзнат?“, „Какво е естеството на твоята самоосъзнаване?“ и др.
Проблемът е, че самата цел и програмиране на LaMDA е да може да поддържа органичен и естествен разговор с хора. Независимо от темите. Алгоритъмът ще се стреми да отговори по начин, по който да може да продължи диалога. Отговор с „Не“ на по-горните въпроси, може да го прекъсне. С други думи – Лемойн структурира интервюто така, че да чуе това което иска.
Ефектът на Eliza
Много AI експерти коментират, че се е получил Ефектът на ELIZA. Това е състояние, в което подсъзнателно разработчик възприема поведението на компютъра за човешко. Тоест, ако AI-ът следва зададената си програма, това означава, че той не е достигнал самоосъзнание. Предвид структурата на интервюто на Лемойн, отговорите на LaMDA по-скоро следват целта си да поддържат естествен разговор, отколкото да има осъзната друга такава. Мнозинството от AI експерти поддържат тази теза.
Google описват, че техният инженер е бил „обсебен“ от идеята, изкуственият интелект да е постигнал самоосъзнаване. Самият Лемойн има интересна биография, включително е бил свещеник в мистична християнска секта. Технологичният гигант обаче не е напълно невинен. Той беше обвинен преди две години от други негови разработчици, че не позволява да се съобщава научния прогрес постигнат в AI сферата.
Заключението за момента е, че по-скоро LaMDA си изпълнява програмата и не е постигнал самоосъзнаване. Развитието на технологиите е доста бърз, особено в тази сфера през последните години. Рано или късно може наистина да изпаднем в подобна ситуация. И ще е хубаво да сме готови – за всеки сценарий и във всяко едно отношение, от технологично, до регулаторно.
