Tekoälyagentit (AI agents) ovat tietokoneohjelmia tai järjestelmiä, jotka kykenevät tekemään itsenäisesti älykkäinä tulkittavia toimintoja tavoitellessaan tiettyä tavoitetta. Tekoälyagenttien kriittinen kartoittamaton alue liittyy erityisesti niiden epäeettiseen ja ei-toivottuun toimintaa. Tekoälyagentit voi valjastaa huijaamaan ihmisiä, ne voivat ryhmäytyä sekä päästä vapaaksi toteuttamaan rikollista toimintaa, siten ettei niitä ole mahdollista pysäyttää. Hankkeen keskeinen tavoite on tekoälyagenttien negatiivisten vaikutusten riskikentän tunnistaminen ja ehkäisy. Hanke tutkii erilaisia ilmentymiä pahatahtoisesta tekoälystä kuten keskustelubotit, palvelurobotit ja metaversumin avatarit.

2024