Axel Flinth: "AI models are rational – humans are not. How severe is this problem?" (engelska)
Talare: Axel Flinth, Institutionen för matematik och matematisk statistik, Umeå universitet
Titel: AI‑modeller är rationella – människor är det inte. Hur allvarligt är detta problem?
Abstrakt: AI‑agenter kan lära sig att efterlikna många beteenden. Ett intressant angreppssätt är så kallad inverse reinforcement learning, där man försöker hitta en nyttjandefunktion som gör beteendet ”rationellt” – det vill säga att det maximerar nyttan. Människor fattar dock inte alltid ”rationella” beslut när de väljer mellan osäkra utfall. Denna insikt har gett upphov till ett helt delområde inom ekonomin: beteendeekonomi. Detta väcker frågan: Vilka potentiella konsekvenser uppstår när man tränar en ”rationell” AI‑modell på ”irrationella” beteendedata?
Axel Flinth startar tillsammans med Jonas Westin upp ett projekt som matematiskt behandlar denna fråga. Vilka beteenden kan och kan inte AI‑modeller baserade på vissa beslutsteoretiska ramverk uppvisa, och när kan de läras in från data? Hans ambition är att ge en lättsam introduktion till problemen, några beslutsteoretiska ramverk och, om tiden tillåter, några preliminära resultat.
Forskare knutna till WASP‑HS är särskilt välkomna. Vi ser tydliga möjligheter till samarbete här, särskilt med den kommande gemensamma WASP/WASP‑HS‑utlysningen i åtanke.
