3.3 Stopnje tveganja umetne inteligence v skladu z Zakonom EU o umetni inteligenci

Raziščite, kako pristop, ki temelji na tveganju, v zakonu EU o umetni inteligenci oblikuje vodstvene odgovornosti v visokem šolstvu. V tej enoti je preučeno, kako lahko univerze razlikujejo med prepovedanimi praksami, sistemi z visokim tveganjem in uporabo umetne inteligence z manjšim tveganjem - zlasti na področjih, kot so sprejem, ocenjevanje, napredovanje študentov in spremljanje - ter kako morajo vodenje, javna naročila in institucionalni nadzor dati prednost skladnosti, kadar je potencialni vpliv na pravice in priložnosti študentov največji.

👉 Za hiter pregled si oglejte videoposnetek.

👉 Zdaj preberite dokument in podrobneje preučite to temo.

 

👉 Zaključite z nalogo, da razmislite in uporabite, kar ste se naučili.

Izberite en primer uporabe umetne inteligence, ki je v vaši instituciji že uvedena ali o njeni uvedbi trenutno razpravljate. Opišite, kaj naj bi sistem počel in kje posega v študijsko pot študenta, na primer pri vpisu, ocenjevanju, spremljanju akademskega napredka ali pri študentskih storitvah. Nato uporabo na splošni ravni razvrstite glede na logiko tveganja iz Akta o umetni inteligenci (AI Act), tako da odgovorite na tri praktična vprašanja. Prvič, ali bi lahko sistem vplival na dostop do študija, ocenjevanje ali pogoje preverjanja znanja na način, ki bi vplival na priložnosti študentov. Drugič, ali bi lahko spadal na področje, ki ga uredba na področju izobraževanja in poklicnega usposabljanja obravnava kot visoko tvegano. Tretjič, če sistem ni visoko tvegan, kakšne zahteve glede transparentnosti bi morale veljati, da uporabniki razumejo, kdaj komunicirajo z umetno inteligenco in za katere naloge je sistem odgovoren. Na koncu predlagajte en vodstveni ukrep, ki bi izboljšal upravljanje takšnih rešitev, na primer jasnejšo opredelitev institucionalnih odgovornosti, zahtevo po dokazilih ali zagotovilih s strani dobaviteljev ali okrepitev komunikacije z uporabniki ter vzpostavitev jasnih poti za prijavo težav. (Napišite 200–300 besed.)