На 2 и 3 септември 2025 г. в Международния дом на журналистите – Варна Съюзът на българските журналисти и ВСУ „Черноризец Храбър“ организират Форум на тема „Изкуството на комуникацията“. По този повод от Флорида, САЩ, разговаряме специално за сайта на СБЖ с д-р Артур Кордон, международно признат експерт в прилагането на изкуствен интелект в индустрията, който ще бъде лектор на форума.

Интервюто е известният журналисти и преподавател доц. д-р Георги Калагларски

 

-Д-р Кордон, повече от 30 години реализира научните идеи на изкуствения интелект (ИИ) в практиката. Във Ваши публикации твърдите, че медиите са едно от най-популярните приложния на Големите Езикови Модели от типа ChatGPT. Използвате и аналогията с двуликия бог Янус, съчетаващ Магията на тези модели и поразиите, които са възможни от тяхното неразумно използване. Развийте, моля, тези Ваши твърдения.

- Най-напред за Двуликият Янус. Медиите са едно от най-популярните приложения на Големите Езикови Модели от типа ChatGPT, наричан още Чат-Пат ИИ. Да, вярно е твърдението, че ИИ поради редица недостатъци, като способността им да халюцинират. От една страна Големите Езикови Модели предлагат огромни нови възможности за повишаване на ефективността и обогатяване на всеки тип медия – телевизия, преса, радио, особено на социалните медии.

От друга страна, обаче, фундаменталните недостатъци на технологията и възможните дълготрайни негативни ефекти от нейната механична употреба, повдигат съществени въпроси за влиянието й върху всеки от нас и на обществото като глобална социална система. Не случайно се използва аналогията с двуликия бог Янус, съчетаващ Магията на Големите Езикови Модели и поразиите, които са възможни от тяхното неразумно използване...

- Да поговорим за Магията. Какво влючвате в тази метафора...

- В много отношения, Големите Езикови Модели са идеалния помощник на всеки създател на медиен продукт, базиран на текст. Диапазонът на дейности, които могат да се частично автоматизират е изключителни широк – от интелигентно търсене на информация до генериране на различни форми на съдържание в желания от журналиста стил (статия, фейлетон, диалог и т.н.)

Причината за огромната популярност на Чат-Пат ИИ е минималните изисквания за изграждане и използване на медийни продукти. На практика всеки със средно ниво на интелигентност може да участва в този процес. В добавка, възможностите на технологията за всеобхватна автоматизация нарастват с бясна скорост. Прогнозата е, че предстои бум за генериране на мултимедийни продукти, съчетаващи текст, звук, образи и видео. Накратко, Магията на Големите Езикови Модели дава възможност за значително повишаване на производителността на медийните процеси.

Много скоро, обаче, започнаха да се появяват и разбират отрицателните ефекти от прилагането на Чат-Пат ИИ. Негативният медиен Янус позволява паразитиране на медии на базата на труда на други медии чрез продуктите на Големите Езикови Модели. Хаосът при защитата на авторските права дава възможност за лесно и безочливо генериране на медийни продукти от всякакви източници с минимум труд. В резултат се пръква медийна халтура, с елементарна култура, без дълбоко образование, експлоатираща възможностите на технологията за автоматично генериране на контекст. На този етап на развитие на технологиите, все още може да се идентифицира халтурата на Чат-Пат ИИ чрез механичния език, без дълбочина на мисълта и чувство за хумор на избълвания автоматично текст, но в бъдеще това ще става все по-трудно...

Съвсем резонен е и въпроса за съкращаване на работните места.

-Вие намирате аргументи, че сега медиите водят три основни битки с настъпващите талази на алгоритмите на ИИ, както Вие ги наричате. Кои са тези битки, ще има ли победители и победени, които ще бъдат те?

- Първата битка е за истината, която трябва да се отвоюва на всяка цена от халюциниращия свят на Чат-Пат ИИ. Втората, по-сложна битка, е за мозъчните ни гънки, постепенно изглаждани от ютията на предъвканото знание, сервирано наготово от компютъра по наше желание. Третата и решаваща битка е с наркотика ИИ, водещ до постепенна замяна на дълбокото човешко мислене с алгоритмична дрога.

Да поговорим за битката за истината. Една от изненадите на Големите Езикови Модели е трудността им да идентифицират точна и вярна информация. За съжаление в алгоритъма им на изчисление на най-вероятната следваща фраза няма критерий за нейната истина. Тъй като Чат-Пат ИИ не разбира смисъла на тази фраза, той гради словесните си пледоарии на връзките от думите, „запечатани“ в милиардите параметри на които е трениран. Когато данните на трениране са богати, например съчиненията на Шекспир, той генерира смислен и верен отговор на въпросите в тази област. В случай на липсващи и ограничени данни за обучение на модела, алгоритъма започва да генерира думи по аналогия с позната област, без да отчита тяхната истина – т.н. халюцинация. Доста често дори се избълва цял параграф с невярна, но логически аргументирана информация.

Понастоящем е впрегнат огромен потенциал в технологичните гиганти за намаляване на ефектите на халюцинация чрез по-всеобхватно трениране с по-точни данни и добавяне на алгоритми за проверка. Предполага се, че с подобряването на моделите битката за истината, породена от халюцинация ще бъде под контрол.

Не така стои въпросът с другия мощен инструмент за изкривяване на истината – лавината от манипулационни алгоритми на ИИ. За съжаление става все по-трудно да се идентифицира технически реалния източник от фалшификатите, било той текст, образ, звук, или видео.

Създателите на ИИ медии трябва да поемат отговорността да се справят с тази задача чрез висок професионализъм, базиран на богата култура и широки познания на естествения си интелект. За съжаление с напредъка на технологиите критериите ще стават все по-трудни, но способността да се елиминира фалшива информация или разобличи манипулация, генерирана от ИИ, ще бъде част от професионалните изисквания. Битката за истината поставя важния въпрос за значението на достоверните, богати на съвременно съдържание и не манипулирани данни. Тъй като те са в основата на трениране на Големите Езикови Модели, тяхната стойност ще расте с развитието на технологиите. Точните източници на знание, както бистрата изворна вода, ще са едни от най- търсените стоки на 21 век...

- Но това въздействие зависи в не малка степен от нашето, личното ни умение да се ориентираме в огромната информационна лавина и да избираме най-надежните информационни канали...

- Да, ето, че стигаме до следващата битка – за мозъчните гънки. За мнозина еуфорията от ИИ се базира на очакването технологията да замени или поне намали значително мисловното бреме на човешкия интелект. Опитът от предишни постижения в посока на когнитивни облекчения е доста положителен. Електронните калкулатори изцяло елиминираха нуждата от прости аритметични изчисления, а търсачките освободиха паметта ни от необходимостта за запомняне на всякакъв вид информация. Ефектите на ИИ върху човешката мисловна дейност обаче са доста по-сложни и противоречиви. В много отношения ИИ повишава многократно ефективността на интелектуалната дейност чрез лесен достъп до универсалното знание, светкавично запълване на липсваща информация в удобна за възприемане форма, индивидуално обучение, генериране на широк диапазон от форми на текстово съдържание, и т.н. Ролята на ИИ на усилвател на човешкия интелект е в основата на хипотезата за технологията като двигател на прогреса на 21 век.

-Посочвате позитивните ефекти, но налице са и редица неблагоприятни последици...

- За съжаление, някои ефекти от приложението на Големите Езикови Модели точно в обратната посока са повод за сериозно безпокойство. Особена тревога буди растящата употреба на предъвкано, максимално опростено знание. Все повече ИИ се използва като „интелектуална дъвка“ да смели най-сложните понятия и теории до елементарно ниво. Доста често това довежда до размиване на смисъла на съществени понятия и замяната му с нищо не значещи езикови щампи.

Типични примери са следните въпроси към Чат-Пат ИИ: „Просто обяснение на Теорията на относителността в 20 изречения“, „Кратък анализ на причините за инфлация“, „Предложения как най-лесно да програмирам?“ Проблемът не е в „олекотените“ отговори на Големия Езиков Модел, а в желанието да се намали мозъчното „бреме“ на човешкия интелект, на елиминиране на предизвикателствата от дълбоки знания и идеи. Подходът е, интелектуалната тежест да се поема все повече от ИИ и постепенната адаптация на естествения интелект към режим на плиткоумие, характерен с елементарна мисъл и арогантна всезнайковщина, подхранвана от Чат-Пат ИИ.

– Да коментираме и третата битка? Тя ли е приоритетна в момента?

-Това е битката с наркотика Изкуствен Интелект. Най-опасното последствие от негативните ефекти е когнитивното потъване на индивида в океана на ИИ. Парадоксът е, че все по-мощните възможности на тази технология да задоволяват всякаква мисловна дейност отслабват „мускулите“ на естествения интелект. Индивидът все повече разчита на ИИ не само за информация, но и за формиране на мнение по важни въпроси, дори при вземане на съдбоносни решения. Проблемът не е в отчитането на „съветите“ на ИИ по даден въпрос, а в сляпото, механично разчитане на тях. В замяната на собственото знание и мнение с генерираното от Чат- Пат ИИ такова, което може да се окаже халюцинация…

Особено опасна форма на този интелектуален мързел е съчетанието на висока амбиция с нисък естествен интелект, компенсиран от ИИ. Доста често, тази комбинация изобилства с механични високопарни клишета, генерирани от Чат-Пат езиковите модели. Тя лесно се разпознава поради отсъствието дори на нормална мисъл и разбираем език. Бих нарекъл тази, за съжаление, растяща тенденция, като AI чалга. За разлика от класическата чалга, където дълбоката музика е заменена с елементарни ритми и едноклетъчни текстове, AI чалгата е по-трудна за разпознаване. Тя умело прикрива липсата на дълбок естествен интелект с натруфената езикова помада на Чат-Пат изкуствения интелект. За съжаление, както класическата чалга заля задълго ефира, има реална опасност AI чалгата да окупира общественото пространство, особено медиите.

Какви мерки трябва да се вземат за да се спечелят тези трудни битки? Как да се спрат надигащите се талази на AI чалгата? Всеобхватният характер на ИИ и масовата му разпространеност изключително затрудняват намирането на бързи и ефективни решения. Най-важното е да се разбере, че проблемите не са толкова в технологията на ИИ, а в неговите ефекти върху естествения интелект. Това определя и стратегията на успех, дефинирана още през 17 век от Рене Декарт – cogito ergo sum. За да съществуваме, за да ни има в ерата на настъпващия ИИ, трябва да се научим да мислим по-широко, по-креативно и най-вече – по-дълбоко!

------------

Д-р Артур Кордон е международно признат експерт в прилагането на изкуствен интелект в индустрията. Повече от 30 години реализира научните идеи на изкуствения интелект в практиката.

В списъка на неговите успешни индустриални приложения с висок икономически успех се открояват разработване на дигитален двойник на една компания, предсказуема поддръжка, интелигентен анализ на намаляване на разходите за енергия, прогнозиране на цените на суровини и оптимизиране на офис пространството. Д-р Артур Кордон е уважаван член на международната научна общност в областта на приложните системи за изкуствен интелект като участник в програмните комитети на най-известните конференции в тази област. Притежава американски патент и е публикувал повече от 70 статии и 16 глави в книги в областта на приложения изкуствен интелект.