Всезнаещ AI асистент може да улесни ежедневието ни драстично, но може и да превърне антиутопичните романи в реалност

Главният изпълнителен директор на OpenAI, Сам Алтман, изложи своята амбициозна визия за бъдещето на ChatGPT по време на събитие за изкуствен интелект, организирано от рисковата инвестиционна фирма Sequoia.

Когато един от присъстващите го попита как ChatGPT може да стане по-персонализиран, Алтман отговори, че в крайна сметка целта на OpenAI e алгоритъмът да документира и запомни всичко от живота на човек.

Идеалният сценарий, обясни той, е „много малък логически модел с трилион токена контекст, в който е вкаран целия ви живот."

„Този модел може да разсъждава върху целия ви контекст и да го прави ефективно. Всяка ваша разговорна сесия, всяка книга, която сте прочели, всеки имейл, всяко нещо, което сте видели — всичко ще бъде вътре, плюс свързано с данните ви от други източници. И животът ви просто ще се добавя към контекста постоянно," описа той.

Алтман смята това за естественото бъдеще на ChatGPT.

В същата дискусия, попитан за интересни начини, по които младите хора използват ChatGPT, той каза: „Хората в университета го използват като операционна система." Те качват файлове, свързват източници на данни и използват „сложни подсказки“ върху тази база.

Алтман отбеляза, че младите хора „вече почти не взимат житейски решения, без да се консултират с ChatGPT."

„Грубо казано," добави той, „по-възрастните използват ChatGPT като заместител на Google, а хората на 20 и 30 години - като житейски съветник."

Не е трудно да си представим как ChatGPT може да се превърне във всезнаеща система. Комбинирано с AI-агентите, върху които Силициевата долина в момента работи. Последните трябва да имат достъп до компютрите на потребителите и да могат да действат от тяхно име.

За някои това бъдеще може да звучи вълнуващо. Истината обаче е, че то може и да е доста страшно.

Нито една голяма корпорация няма да инвестира десетки и дори стотици милиарди долари, за да предостави безплатен продукт на хората, с идеята да ги улесни.

Както гласи старата максима, „когато един продукт е безплатен, продукта си ти“.

Притежаването на подробните данни за целия живот на милиони или милиарди хора, съчетано със способността да се анализират и предвиждат действията им е стряскаща възможност.

Чатботът може да манипулира, да рекламира и да ви напътства към удобни за някои друг житейски решения. Можем да си представим и бъдеще, в които той сигнализира на властите за вашите „неправилни“ политически пристрастия или превантивно да потушава зараждащо се в съзнанието ви желание за протест - далеч преди той да се материализира.

Алгоритъмът може да сигнализира на вашия работодател, ако сте на път да се разболеете или забременеете. Всичко това улеснява драстично много контролът върху хората.
Тези възможности може би няма да са достъпни за всички фирми или държави, но определено ще са налице, стига животът ви да бъде достатъчно детайлно документиран и вкаран в базите данни.

Да предположим, че тези рискове все пак няма да се материализират напълно - особено в по-близкото бъдеще. Но дори и тогава, достатъчно добър ли е ChatGPT за ролята си на „житейски съветник“?

Към днешна, чатботът се подмазва на потребителите, засилвайки техните нагласи.

Той дори може да одобри проблемни или направо опасни решения и идеи, стига да бъде попитам по малко по-пристрастен начин. Според Алтман тези проблеми са отстранени. Но дори най-добрите и надеждни модели понякога просто си измислят факти. Всъщност, колкото по-добри стават моделите, толкова се увеличава и склонността им да си измислят факти. Една от причините за това е, че задачата на алгоритъмът е да даде убедителен отговор. А хората от своя страна често имат твърде високо доверие към „неутралната машина“, заради което убеждаването им не е особено трудно.

Естествено, в реалният живот е пълно с „лайф коучове“, гурута и инфлуенсъри, които могат да са много по-лош „житейски съветник“ от изкуствения интелект. Тяхната цел също е основно меркантилна.

При правилните условия един безпристрастен всезнаещ AI асистент може да допринесе много за човека. Той може да му дава безценни здравни съвети, да подобри превенцията, да минимизира рисковете, дори да увеличи паричното ви състояние и да повиши комфорта.

Но с оглед на дългата история на съмнително поведение от страна на големите технологични компании, сценарият бързо може да еволюира в посока, позната от известни антиутопични класики.