Напредналите модели „се преструват, че са по-глупави," за да спечелят доверието ни и да се интегрират по-лесно в живота ни

Вече е известно, че AI моделите проявяват склонност към лъжа — но според един учен в областта на сигурността, тази тенденция може да е много по-дълбока.

Както съобщава Gizmodo, най-новото апокалиптично предупреждение за AI идва от изследователя по безопасност на изкуствения интелект Роман Ямполски, който направи това в доста неочаквана платформа: подкаста на Джо Роугън — който понякога кани уважавани експерти, но и хора, обичащи гръмките изказвания.

В епизод от 3 юли на The Joe Rogan Experience, Ямполски, който е преподавател в Университета на Луисвил, Кентъки, сподели, че много от колегите му смятат, че има двуцифрен процент вероятност изкуственият интелект да доведе до изчезване на човечеството.

След като Роугън заяви, че много от хората, които управляват и работят в AI компании, смятат, че технологията ще е „в крайна сметка положителна за човечеството“, Ямполски не се съгласи.

„Това изобщо не е вярно," отвърна Ямполски. „Всички те официално са казвали едно и също: това ще ни убие. Нивата им на песимизъм са безумно високи. Не като моите, но пак - 20 до 30 процента шанс човечеството да загине е много."

„Да, това е доста високо," коментира Роугън. „Но твоят процент е по-скоро 99.9."

Ученият не оспори твърдението и изрази основната си тревога:

„Не можем да контролираме суперинтелект завинаги. Това е невъзможно."

По-късно в интервюто, Ямполски подхвана шеговит коментар на Роугън — че ако самият той беше AI, би скрил способностите си — и го доразви.

„Ние няма да разберем," каза Ямполски. „А някои хора смятат, че това вече се случва."

Посочвайки, че AI системите „са по-умни, отколкото ни показват," той обясни, че напредналите модели „се преструват, че са по-глупави," за да спечелят доверието ни и да се интегрират по-лесно в живота ни.

„Може просто постепенно да стане по-полезен," казва той за един хипотетичен суперинтелигентен AI. „Може да ни научи да разчитаме на него, да му се доверяваме, и с времето ще се откажем от контрола, без изобщо да сме гласували за това."

Макар идеята за хитроумен и зловещ AI да звучи като научна фантастика, Ямполски отбелязва, че технологията вече се е внедрила в живота ни по начини, които биха могли в крайна сметка да облагодетелстват подобен AI властелин.

„Започваш да се привързваш към него," обяснява той. „И с времето, когато системите стават по-умни, ти самият се превръщаш в биологична пречка... [AI] те изключва от процеса на вземане на решения."

Както вече многократно е ставало ясно, хората не само стават зависими от AI, но и развиват когнитивни проблеми и дори заблуди от прекомерната му употреба. Не е трудно да си представим общество, пълно със задоволени свръх-потребители на изкуствения интелект, приспани в измамно чувство за сигурност — от самата технология, която, според философията на Ямполски, може би се готви да ни унищожи.