Вештачката интелигенција сè повеќе и повеќе халуцинира

Новиот извештај на Форбс открива дека Perplexity, чудна алатка за пребарување на вештачка интелигенција заглавена во плагијати и тајни обвинувања од веб, наведува спам со низок квалитет генериран од вештачка интелигенција од нејасни блогови и лошо информирани извори.

Извештајот на Форбс во голема мера се заснова на длабоко истражување за Perplexity, спроведено од GPTZero, стартап специјализиран за откривање содржина генерирана од вештачка интелигенција. Во блог пост претходно овој месец, извршниот директор на GPTZero, Едвард Тиан, истакна дека „зголемен број на извори се поврзани со Perplexity, кој самиот е генериран од вештачката интелигенција“. Кога потоа беше испитано како Perplexity ги добива тие информации, беше откриено дека, во некои случаи, Perplexity дури и доставува застарени и неточни информации од извори генерирани од вештачка интелигенција.

Со други зборови, тоа е затворена јамка на дезинформации водени од вештачка интелигенција, каде што грешките и измислиците на вештачката интелигенција го наоѓаат својот пат во одговорите на Perplexity AI. И за стартап кој тврди дека „го револуционизира начинот на кој ги откривате информациите“ нудејќи „прецизно знаење“ преку „современи“ информации од „доверливи извори“, ова дава лоша слика.

„Збунетоста е добра само колку и нејзините извори“, изјави Тијан за Форбс. „Ако изворите на вештачката интелигенција се халуцинации, таков е и резултатот. 
Ако сте претпазливи за алатките за откривање вештачка интелигенција, тоа е сосема фер. Но, изворите како што се Perplexity и слични платформи, наведени од Тиан и Форбс како лоши информации засновани на вештачка интелигенција, покажуваат знаци на дегенерација на вештачката интелигенција“.

Perplexity вели дека компанијата за пребарување на вештачка интелигенција развила свои „сопствени внатрешни алгоритми за откривање дали содржината е генерирана од вештачка интелигенција“, но дека „овие системи не се совршени и треба постојано да се подобруваат, особено бидејќи содржината генерирана со вештачка интелигенција станува се пософистицирана. “.