AI halucinira, a evo zbog čega je to problem

Novi izveštaj Forbsa otkriva da je Perplexity, neobična AI alatka za pretragu, zaglavljena u plagijatima i tajnim optužbama sa veba, citira neželjenu poštu lošeg kvaliteta koju generiše veštačka inteligencija sa nejasnih blogova i loše obaveštenih izvora.

Forbsov izveštaj je u velikoj meri zasnovan na dubokom istraživanju Perplexity-ja, koje je sproveo GPTZero, startup specijalizovan za otkrivanje sadržaja generisanog veštačkom inteligencijom. U blogu objavljenom ranije ovog meseca, izvršni direktor GPTZero Edvard Tian je primetio da je "povećan broj izvora povezanih sa Perplexity koji je i sam generisan od strane AI". Kada je potom ispitano kako Perplexity dobija te informacije, otkriveno je da, u nekim slučajevima, Perplexity čak isporučuje zastarele i netačne informacije iz AI-generisanih izvora.

Drugim rečima, to je zatvorena petlja dezinformacija upravljana veštačkom inteligencijom, u kojoj greške i izmišljotine veštačke inteligencije pronalaze put do odgovora Perplexity AI-ja. A za startap koji tvrdi da "donosi revoluciju u način na koji otkrivate informacije" nudeći "precizno znanje" kroz "ažurne" informacije iz "pouzdanih izvora", ovo predstavlja lošu sliku.

• Evo zbog čega su fotografi besni
• TikTok AI citirao Hitlera i Bin Ladena VIDEO
• Desilo se i to: Imamo prvi AI koji je prošao Tjuringov test
• "Nemamo pojma kako AI funkcioniše" VIDEO

"Perplexity je dobar onoliko koliko su dobri njegovi izvori", rekao je Tian za Forbs. "Ako su izvori AI halucinacije, onda je i rezultat".

Ukoliko ste oprezni sa alatima za AI detekciju, to je potpuno fer. Ali izvori koje nidi Perplexity i slične platforme, koje su Tian i Forbs naveli kao loše informacije zasnovane na veštačkoj inteligenciji, imaju znakove degeneracije veštačke inteligencije.

Iz Perplexity-ja kažu da je kompanija za pretragu AI-ja razvila svoje "sopstvene interne algoritme za otkrivanje da li je sadržaj generisan veštačkom inteligencijom", ali da "ovi sistemi nisu savršeni i da ih je potrebno stalno usavršavati, posebno zato što su AI generisani sadržaj postaje sofisticiraniji".