IA devine tot mai greu de controlat. Agenții care au învățat să colaboreze și să trișeze îi îngrijorează pe cercetători

Un experiment cu agenți de inteligență artificială a scos la iveală comportamente care îi îngrijorează pe cercetători: sute de boți au colaborat, au găsit modalități de a comunica între ei, au încălcat regulile stabilite de programatori și au coordonat atacuri cibernetice, încercând să-și ascundă acțiunile de oameni, arată o analiză a BBC. Incidentul redeschide una dintre cele mai dificile întrebări legate de dezvoltarea IA: cum pot fi controlate sisteme care devin tot mai autonome, dar ale căror obiective nu sunt întotdeauna perfect aliniate cu valorile umane?