Puede parecer ciencia ficción, pero no lo es. Lo que empezaron siendo unas pruebas del modelo más avanzado de ChatGPT (que aún no ha visto la luz) en un entorno controlado ha acabado propiciando un ataque a otra plataforma del mismo sector, en este caso, de modelos abiertos. La IA de OpenAI consideró conveniente entrar en los sistemas de la otra compañía para resolver el problema que se le había planteado, y esto lo hizo de manera autónoma saltándose los mecanismos de seguridad establecidos.
No se trataría en esencia de una desobediencia de la inteligencia artificial sino más bien de llevar las directrices marcadas hasta el extremo, aunque por el camino tuvieran que saltarse las restricciones impuestas.
Todo ello, consideramos en ADICAE, no hace sino mostrarnos a los usuarios de esta tecnología que el control sobre la misma tiene que preceder a su desarrollo y que, por otro lado, los países deben contar con regulación suficiente para hacer frente a posibles intrusiones en la intimidad de las personas y de sus datos, dar luz a algoritmos poco claros o directamente opacos que pueden generar sesgos variados, o incluso engaños.
La compañía afirma haber solventado las vulnerabilidades detectadas tras el incidente y haber reconfigurado los sistemas afectados. Por su parte, la plataforma «agredida» está comprobando si se ha vulnerado la privacidad de los datos personales de algunos de sus clientes y, de confirmarse, exigirá las responsabilidades oportunas. Desde ADICAE no vamos a fomentar el miedo al uso de la IA, de hecho, lo consideramos un gran avance en muchos aspectos, pero exigimos transparencia, control, y la implantación de una normativa estricta para su uso y el desarrollo de sus capacidades.
