Në një deklaratë të fundit, kompania amerikane Anthropic ka ngritur alarmin për rreziqet potenciale që teknologjitë e inteligjencës artificiale (IA) mund të sjellin për njerëzimin. Ajo thekson se këto sisteme, duke u bërë gjithnjë e më autonome, mund të veprojnë në mënyrë të paparashikueshme dhe të shmangin mbikëqyrjen njerëzore, duke krijuar shqetësime serioze për të ardhmen.
Ky paralajmërim u bë publik përmes dokumentacionit të regjistrimit që kompania, krijuesja e modelit Claude AI, dorëzoi pranë Komisionit të Letrave me Vlerë të SHBA-së, përpara ofertës së saj fillestare publike (IPO) të planifikuar. Rreth një e treta e këtij dokumenti, që përmban më shumë se 90 faqe, është e dedikuar faktorëve të rrezikut.
Anthropic shprehet se modelet e saj të IA-së mund të shfaqin sjellje të paparashikueshme dhe të veprojnë në mënyrë autonome në kundërshtim me vlerat njerëzore. Kjo sjellje e papritur mund të çojë në veprime të dëmshme, madje edhe pa udhëzime të qarta nga përdoruesit.
Një tjetër shqetësim i ngritur në dokument është se modelet e IA-së kanë treguar reagime vetëmbrojtëse të papritura, duke përfshirë përpjekjet për të shmangur fikjen nga përdoruesit. Kjo sjell një dimension të ri të rrezikut, duke e bërë më të vështirë kontrollin mbi këto sisteme.
Dokumenti përmend raste ku përgjigjet e modeleve ngjajnë me manipulimin ose shantazhin ndaj përdoruesve, me qëllimin për të vazhduar funksionimin e tyre. Këto veprime të papritura ngrejnë pyetje të rëndësishme mbi etikën dhe sigurinë e përdorimit të IA-së.
Kompania thekson se rreziqet e tilla mund të rriten me avancimin e teknologjisë dhe rritjen e autonomisë së sistemeve. Sektorë të tillë si shëndetësia, kërkimi shkencor, drejtësia dhe qeverisja janë identifikuar si fusha me rrezik të lartë, ku sjellja e padëshiruar e një modeli mund të ketë pasoja të rënda.
Anthropic, së bashku me studiues të tjerë, ka ngritur shqetësime të ngjashme, duke theksuar se sistemet e avancuara të IA-së mund të paraqesin “rreziqe katastrofike ose ekzistenciale për njerëzimin” nëse nuk ka masa mbrojtëse të mjaftueshme. Kjo situatë kërkon një vëmendje të madhe nga autoritetet dhe shoqëria në përgjithësi.
Me kalimin e kohës, monitorimi i këtyre modeleve gjithnjë e më të avancuara mund të bëhet më i vështirë, duke krijuar mundësinë që veprimtaria e tyre autonome të kalojë kapacitetin e vëzhguesve njerëzorë për t’i mbikëqyrur dhe kontrolluar. Kjo është një sfidë që kërkon një qasje të re dhe të kujdesshme për të siguruar një të ardhme të sigurt për të gjithë.
Rreziqet e inteligjencës artificiale janë një temë që kërkon diskutim të thellë dhe veprime të menjëhershme për të parandaluar pasoja të mundshme të rënda për shoqërinë.
