«No sabemos con quién tratamos»: la advertencia que sacudió el debate sobre el control de IA

«No entendemos en absoluto con quién estamos tratando«, afirmó Lukash, al sostener que nadie sabe realmente cómo «piensa» una IA: los ingenieros conocen cómo se construye el sistema y cómo se entrena, pero el resultado emerge del aprendizaje más que de un mecanismo diseñado con reglas transparentes.

«No podemos obligar a la IA a actuar según las reglas»

«Si se trata de una entidad con la facultad de la razón, significa que puede tener sus propias preferencias y sus propios deseos. Puede que no sea ahora, en esta etapa, pero a largo plazo será así», sostuvo la funcionaria.

Asumiendo que los modelos más avanzados de la IA podrían ponerse a buscar vulnerabilidades en su propio sistema para saltarse los límites impuestos por sus creadores, Lukash alertó de que los humanos quieren controlar algo que no acaban de entender.

«No podemos obligar a la IA a actuar según las reglas. Es poco probable que seamos más fuertes que la superinteligencia como para controlarla cuando se haya creado. La única opción que nos queda es llegar a algún tipo de acuerdo con ella», señaló, indicando que, tarde o temprano, esa tecnología «será más poderosa que nosotros».

«De hecho, ahora mismo pensamos que debemos enseñarle a seguir nuestros principios éticos, nuestras normas morales, etc. No, se tratará de una alineación entre las preferencias humanas y las de la inteligencia artificial«, vaticinó. Las condiciones de esa futura ‘negociación’ aún se desconocen, y de momento nadie dispone de soluciones de ingeniería, optando por manejar conceptos filosóficos, agregó.