A mesterséges intelligenciát fejlesztő vállalatok egyre nagyobb nyomással néznek szembe a szabályozók és a szülők részéről azzal kapcsolatban, miként kezelik a chatbotok a krízishelyzetbe került, különösen a fiatalkorú felhasználókat.

Erre reagálva a Meta kifejlesztett egy kifejezetten erre a célra szánt algoritmust, amely képes felismerni, ha egy tinédzser önkárosításra utaló kijelentéseket tesz a beszélgetések során. Annak érdekében, hogy a sokszor traumatikus értesítések indokolatlanul ne riasszák meg a családokat, a rendszer által megjelölt eseteket az üzenet kiküldése előtt hús-vér szakemberek is manuálisan ellenőrzik.

A techóriás elismerte, hogy kétes esetekben inkább az óvatosság elvét követik, így előfordulhatnak téves riasztások is, de a biztonságot tartják a legfontosabb kiindulópontnak.

A megelőzésen túl a Meta már egy olyan megoldáson is dolgozik, amellyel közvetlenül értesíthetnék a segélyhívó szolgálatokat, amennyiben a közvetlen öngyilkossági veszély igazolódik. Ez a vészhelyzeti protokoll nem csupán a fiatalokat érinti majd, hanem a felnőtt felhasználókra is kiterjed, ha a chatpartnerükként szolgáló robottal folytatott diskurzusuk alapján fennáll az önveszélyeztetés kockázata.

A vállalat számára ez az eljárás nem teljesen új keletű, hiszen a Facebookon és az Instagramon közzétett bejegyzések esetében már eddig is alkalmazták a hatósági kapcsolatfelvételt. A mostani fejlesztésekkel azonban ez a fajta digitális védőháló a nyilvános posztok felől kiterjed az AI-jal folytatott, zárt beszélgetések területére is.

(Forrás: TechCrunch, fotó: Getty Images)

Ez is érdekelhet:

A Marsra edzett mesterséges intelligencia 73 új, potenciálisan gyilkos vulkánt talált a tenger alatt Egy marsi kráterek keresésére kiképzett mesterséges intelligencia segítségével a kutatóknak sikerült hetvenhárom eddig ismeretlen, hatalmas tenger alatti vulkáni kalderát azonosítaniuk a Föld óceánjainak mélyén.

Az AI számára láthatatlan betűtípust hoztak létre Az ember képes elolvasni, a mesterséges intelligencia viszont nem.

Végre kiderült, miért voltak olyan nevetségesen kicsik a T. rex karjai Egy új, átfogó kutatás szerint a ragadozó dinoszauruszok, köztük a félelmetes Tyrannosaurus rex, azaz a T. rex csökevényes mellső végtagjai a koponya és az állkapocs evolúciós megerősödésével hozhatók közvetlen összefüggésbe.