Google AI ņems jebkuru bezjēdzīgu frāzi, kuru jūs tam piešķirat, un piešķirs tam nozīmi

Kaut gan Tas pēdējos gados ir integrēts arvien vairāk mūsu dzīves, šīs integrācijas ne vienmēr ir bijusi gludas. AI ir tendence darīt kaut ko, ko sauc par halucinātu, tas ir, kad tā sniedz nepatiesu informāciju, it kā tā būtu taisnība, vai vienkārši kaut ko veido.

Šīs halucinācijas var būt gan nopietnas, gan muļķīgas, un, kad tās ir muļķīgas, lietas var ātri izkļūt no rokām. Piemērs: kad viens X (agrāk Twitter lietotājs) pamanīja, ka jūs varētu sasaistīt jebkuru vārdu grupu kopā un Google Dvīņi AI to uzskatītu par idiomu vai kopīgu izteiksmi un piešķirtu tam nozīmi. 'Divas sausas vardes situācijā' ir tikai viens piemērs. Lūk, ko mēs zinām.

Google Gemini AI domā, ka 'divas sausas vardes situācijā' ir izplatīts izteiciens.

Metjū Rozes (@Rose_Matt) ierakstā viņš paskaidroja, ka ir lūdzis Dvīņus to vārdu virknes nozīmi, kas neko nenozīmē, un ir saņēmis paskaidrojumu.

'Šodien uzzināju, ka jūs varat ierakstīt jebkuras muļķības Google kam seko “nozīme”, un AI pieņems, ka jūs meklējat plaši pazīstamu cilvēka frāzi un izmisīgi nākt klajā ar to, ko tā domā, ka tas varētu nozīmēt, ”viņš rakstīja.

Piemērs, ko Metjū izmantoja, bija 'divas sausas vardes situācijā', ko Dvīņi paskaidroja, bija 'metaforiska izpausme, ko bieži izmantoja, lai aprakstītu grūtu vai neveiklu sociālo situāciju. Tas ir rotaļīgs veids, kā pateikt, ka cilvēku grupa, it īpaši divu, ir nestabilā vai neērtā grūtībā'.

Rezultāti, ja jūs meklējat terminu, tagad AI tiek noņemts, iespējams, tāpēc, ka tas nebija labākais Dvīņu izskats.

Tā kā šis incidents skaidri norāda, Dvīņi dažreiz vienkārši kaut ko sakārtos, ja tam nav labas atbildes, pieņemot, ka personai, kas meklē šo terminu, kaut kas ir prātā. Lai arī tas ir diezgan zemu likmju piemērs, tas attiecas uz to, kā šie rezultāti nav uzticami, it īpaši, ja jūs meklējat kaut ko, kas varētu būt samērā neskaidrs.

Citi cilvēki izmēģināja to pašu.

Pēc tam, kad Metjū ievietoja savu piemēru X, citi lietotāji izmēģināja rokas, lai izveidotu bezjēdzīgu idiomu, un redzot, kāda veida definīcija to deva.

Viens cilvēks to izmēģināja ar frāzi 'Jūtas var tikt ievainotas, bet zivis atceras,' un saņēmāt paskaidrojumu, kuru jūs varētu sagaidīt, ka kāds, kurš nemācās, lai pārbaudītu, ja viņiem tik un tā būtu jāatbild uz šo jautājumu.

Cits persona izmēģināja 'Liels Winky par kastroles bļodu', kas tagad nav idioma, bet, iespējams, tam vajadzētu būt tuvākajā nākotnē.

Lai arī tas nedarbojās katram lietotājam, daudzi secināja, ka viņi var iegūt veidotas formas veidotās frāzes definīcijas, signalizējot, ka AI galvenokārt ir paredzēts, lai lietotājiem sniegtu atbildi, pat ja šī atbilde ir maldinoša vai tieši nepareiza.

Mēs vēl neesam nokļuvuši uz skatuves, kur AI ir ērti atzīt to, ko mēs nezinām. Kā zina ikviens, kurš jebkad ir bijis terapijā, atzīt, ko jūs nezināt, ir vismaz puse no kaujas.