«No entendemos en absoluto con quién estamos tratando«, afirmó Lukash, al sostener que nadie sabe realmentecómo «piensa» una IA: los ingenieros conocen cómo se construye el sistema y cómo se entrena, pero el resultado emerge del aprendizaje más que de un mecanismo diseñado con reglas transparentes.
«No podemos obligar a la IA a actuar según las reglas»
«Si se trata de una entidadcon la facultad de la razón, significa quepuede tener sus propias preferencias y sus propios deseos. Puede que no sea ahora, en esta etapa, pero a largo plazo será así», sostuvo la funcionaria.
Asumiendo que los modelos más avanzados de la IA podrían ponerse a buscar vulnerabilidades en su propio sistema para saltarse los límites impuestos por sus creadores, Lukash alertó de que los humanos quieren controlar algo que no acaban de entender.
«No podemos obligar a la IA a actuar según las reglas. Es poco probable que seamos más fuertes que la superinteligencia como para controlarla cuando se haya creado. La única opción que nos queda esllegar a algún tipo de acuerdocon ella», señaló, indicando que, tarde o temprano, esa tecnología «será más poderosa que nosotros».
«De hecho, ahora mismo pensamos que debemos enseñarle a seguir nuestros principios éticos, nuestras normas morales, etc. No, se tratará de unaalineación entre las preferencias humanas y las de la inteligencia artificial«, vaticinó. Las condiciones de esa futura ‘negociación’ aún se desconocen, y de momento nadie dispone de soluciones de ingeniería, optando por manejar conceptos filosóficos, agregó.
La entrada «No sabemos con quién tratamos»: la advertencia que sacudió el debate sobre el control de IA se publicó primero en VISION RDN.