Kodėl AI klysta ir kodėl tai nėra gedimas

Kai AI užtikrintai pasako neteisingą datą ar išgalvoja šaltinį, žmonės sako „sugedo“. Bet tai nėra gedimas – tai jo veikimo principas.

Kalbos modelis nežino faktų. Jis moka tikimybes: koks žodis tikėtiniausiai eina po kito. Kai žino – atsako teisingai. Kai neturi duomenų – vis tiek atsako, nes jo darbas yra generuoti tikėtiną tekstą, o ne tylėti.

Kodėl tai svarbu praktiškai:

• Modelis nėra paieška. Jei reikia fakto – naudok paiešką arba įkelk dokumentą.
• Kuo konkretesnis klausimas, tuo mažesnė klaidos tikimybė.
• Duok modeliui šaltinį – tada jis dirba su duomenimis, o ne su atmintimi.

Geras darbinis įprotis: prieš naudodamas atsakymą, paklausk savęs – iš kur jis tai žino? Jei atsakymas neturi pagrindo tavo duotuose dokumentuose, laikyk jį spėjimu.

Tai nėra AI trūkumas, dėl kurio vertėtų jo atsisakyti. Tai riba, kurią reikia žinoti – kaip žinai, kad skaičiuotuvu neskaičiuosi valiutos kurso be tinklo.