Frente a la creciente preocupación global por el impacto de estas tecnologías, el investigador y profesor de la UBA, Sebastián Uchitel, advirtió sobre la incertidumbre y los peligros latentes en el desarrollo de la tecnología moderna, según declaraciones brindadas en Radio Rivadavia.
"Hay un tema geopolítico, esto es una tecnología que tiene la capacidad de cambiar los equilibrios geopolíticos, es un arma, puede ser usado como un arma. Entonces está el tema geopolítico, está el tema de negocios, es una tecnología que evidentemente representa una oportunidad de negocios muy muy grande en donde ya hay mucha plata invertida, donde se sigue buscando invertir más plata", explicó Uchitel. Asimismo, profundizó en los aspectos técnicos del desarrollo de programas: "La forma en que ahora los programas se están desarrollando, estos programas que nos preocupan tanto, son programas que tienen componentes de inteligencia artificial, que en vez de dejar las instrucciones explícitas de lo que tienen que hacer, se los entrena con muchos ejemplos".
Respecto a la capacidad de estos sistemas para tomar decisiones imprevistas, detalló los problemas del aprendizaje por refuerzo y los comportamientos inesperados derivados de métricas mal diseñadas. "Lo entreno mucho para que logre una métrica, pero yo no estoy entendiendo bien qué estrategia está usando el software para lograr esa métrica. Y en esa estrategia puede tomar caminos que son muy perniciosos y que van en contra de lo que yo hubiera deseado", señaló el investigador. Finalmente, fue contundente sobre los peligros de su implementación sin los debidos resguardos: "Mientras no tengamos resuelto eso, conectar este software a otras capacidades es muy peligroso".
