Znanstvena fantastika je polna grozljivih zgodb o vzponu umetne inteligence »kaj če bi«, toda en zaskrbljujoč scenarij se že odvija v šolah po vsej Ameriki.
Po podatkih spletnega mesta Motherboard, ki je osredotočeno na tehnologijo Vice Media, se najmanj 21 ameriških zveznih držav trenutno zanaša na avtomatizirane sisteme za oceno študentskih esejev na določenih standardiziranih testih.
Samo tri od teh držav zahtevajo, da vsak test doseže človek; ostali naključno izberejo teste za človeško potrditev. Sistemi so programirani tako, da določajo ocene na podlagi vzorcev, ne pa tako, da dejansko razumejo, kaj »berejo«.
Če se esej ujema z vzorcem iz prejšnjih uspešnih esejev, dobi dobro oceno. Profesor računalniške lingvistike Emily Bender z Univerze v Washingtonu pravi, da če se nekaj ne spremeni, se bo napaka povečala, kar bo vodilo k temu, da bodo določene jezikovne in demografske skupine dane prednost pred drugimi.
»Težava je v tem, da je pristranskost druga vrsta vzorca, zato ga bodo tudi ti sistemi strojnega učenja sprejeli. In ne samo, da bodo ti programi strojnega učenja pobrali pristranskost v vadbenih sklopih, ampak jo bodo še okrepili.”
V testu je Motherboard predložila nesmiselne eseje, napisane s prefinjenim besednjakom. Šli so mimo.
Resnica o umetni inteligenci:
Pričakuje se, da bo trg umetne inteligence (AI) do leta 60 ocenjen na približno 2025 milijard dolarjev.
Nekateri strokovnjaki napovedujejo, da bo umetna inteligenca do leta 2060 sposobna opraviti skoraj vse človeške naloge.
Amazon se za številna priporočila, ki jih daje strankam, zanaša na umetno inteligenco, celo pri odločanju, kdaj bo ponudil določene ponudbe.