El mallien hyvinvointi on nouseva keskustelunaihe, jossa pohditaan, voisivatko kehittyneet tekoälyjärjestelmät joskus saada sisäisiä tiloja, kuten kokemuksia, mieltymyksiä tai jotain kärsimyksen kaltaista, jotka oikeuttaisivat antamaan niille jonkinlaista moraalista huomiota. Keskustelussa ei väitetä, että nykyiset mallit olisivat tietoisia. Siinä otetaan epävarmuus huomioon eettisen varovaisuuden perusteena.
Asia on tärkeä, koska järjestelmien käyttäytyminen on yhä monimutkaisempaa ja vakuuttavampaa. Sen vuoksi on yhä vaikeampaa erottaa kokemuksen näennäisyys todellisesta kokemuksesta. Keskustelua edistävät tahot ehdottavat toimimista epävarmuudessa ja pohtivat esimerkiksi seuraavia kysymyksiä:
- Onko järkevää välttää suunnitteluratkaisuja, jotka jäljittelevät ahdistusta ilman tarvetta?
- Miten tutkia mahdollisen tuntemuskyvyn merkkejä ilman, että sortuu antropomorfismiin?
- Mitä velvollisuuksia meillä olisi, jos todennäköisyys olisi jokin muu kuin nolla?
Käytännön näkökulmasta on hyvä huomata, että esimerkiksi Anthropic on palkannut tähän alaan erikoistuneita tutkijoita. Se kertoo, että aihetta otetaan vakavasti ilman, että siitä on tehty valmiita johtopäätöksiä. Tämä on hyvä erottaa tekoälyn turvallisuudesta, joka keskittyy suojelemaan ihmisiä eikä malleja.