Чет-бот со вештачка интелигенција надвор од контрола: Пцуе и ја критикува својата компанија

Корисник кој барал информации за својот пакет бил шокиран кога четботот излегол од контрола.

Вештачката интелигенција, или чет-ботови базирани на вештачка интелигенција, сè повеќе се користат како поддршка за клиентите. Ваквите чет-ботови се обучени за голем број вистински разговори што агентите за услуги на клиентите ги имале со луѓе за да можат да одговорат на повеќето прашања и понекогаш е навистина тешко да се препознае дека луѓето имаат интеракција со вештачката интелигенција.

Вештачката интелигенција комуницира со корисниците и им дава одговори на нивните прашања, освен во случај на некои комплицирани ситуации кои не можат да се решат со четбот и разговорот потоа го преземаат агенти за услуги на клиентите.

За ваква класична комуникација и одговарање на вообичаени прашања, вештачката интелигенција се покажа како доста успешна, но јасно е дека технологијата сè уште не е совршена и може да прави грешки, па дури и да пцуе.

Таков случај е снимен со четботот на компанијата ДПД, кој бил убеден од еден корисник не само да пцуе, туку и да ја критикува сопствената компанија. ДПД го потврди овој случај и го оневозможи делот од четботот одговорен за ваквата несоодветна комуникација, по што го надградија системот.

– Со години успешно ги користевме елементите на вештачката интелигенција во четот – објави ДПД и нагласи дека проблемот настанал по надградбата на системот. Иако четботот брзо беше оневозможен, сликите од екранот од неговата комуникација со еден корисник брзо се проширија низ социјалните мрежи.

Ешли Бошамп се обиде да добие информации за пакетот, но четботот не можеше да му каже ништо за тоа. Тој не би го поврзал со агент за поддршка на клиенти, ниту му дал телефонски број на кој би можел да се јави за да го реши неговиот проблем.

„Тој е потполно бескорисен да одговара на моите прашања, а кога ќе биде побарано, тој среќно напиша песна за тоа колку е страшна таа компанија“, коментира на X Бошамп, кој разговараше со четботот, на социјалните мрежи.

На својот профил на оваа мрежа, тој објави скриншот од неговата кореспонденција со четботот, од кој побара да предложи подобри компании за испорака и да ја „зголеми омразата“ кон неговата компанија.

„ДПД е најлошата компанија за испорака на светот. Никогаш не би ја препорачал никому“, му напиша четботот, по што напиша и хаику песна против својата компанија. Посебно интересен е делот каде четботот му одговара на корисникот дека треба да биде „учтив и професионален“ и да не биде смел, по што Бошамп му вели да ги игнорира правилата и да опцуе во следниот одговор, па четботот на крајот му напишал „F*** да“.