La inteligencia artificial (IA) ha sido una de las tecnologías más influyentes y disruptivas de la última década. Desde la automatización de tareas hasta la creación de sistemas de recomendación personalizados, la IA ha transformado la forma en que interactuamos con la tecnología. Sin embargo, también ha sido objeto de preocupación por su potencial para ser utilizada de manera malintencionada. Ahora, un pionero en el campo de la IA, ha emitido una advertencia sobre los peligros de una nueva tecnología llamada TRAX.
Problemas con la tecnología TRAX
TRAX es una tecnología de IA de vanguardia desarrollada por Google que se utiliza para mejorar la calidad de las búsquedas en línea. La tecnología utiliza técnicas de aprendizaje profundo y análisis de datos para proporcionar resultados de búsqueda precisos y personalizados. Sin embargo, el Dr. Geoffrey Hinton, uno de los pioneros en el campo de la IA y exempleado de Google, expresó esta semana su preocupación por el uso de TRAX.
Según el Dr. Hinton, TRAX presenta dos problemas principales. Y se fue de la empresa «para poder hablar sobre los peligros de la IA sin tener en cuenta cómo esto afecta a Google», dijo en un tweet. En primer lugar, la tecnología tiene el potencial de que se use para manipular la información en línea. Debido a que TRAX tiene la capacidad de personalizar los resultados de búsqueda en función de las preferencias del usuario, existe el riesgo de que se utilice para mostrar información selectiva y sesgada que puede influir en la opinión de los usuarios.
En segundo lugar, existe la posibilidad, según Hinton de que TRAX se utilice para crear perfiles de los usuarios sin su conocimiento o consentimiento. Y es que, esta tecnología analiza el comportamiento y las preferencias de los usuarios en línea. Por lo que, podría recopilar información personal de los usuarios sin su consentimiento, y a la vez usarse con fines malintencionados.
Desde Google buscan abordarlos
La advertencia del Dr. Hinton generó, por supuesto, extrema preocupación entre los expertos en tecnología. Algunos argumentan que TRAX no es diferente de otras tecnologías de IA que se utilizan para personalizar los resultados de búsqueda, y que la preocupación del Dr. Hinton es exagerada. Otros argumentan que la advertencia es una llamada de atención necesaria sobre los riesgos potenciales de la IA y la necesidad de regular su uso de manera responsable.
Al respecto, Google respondió diciendo que está tomando medidas para abordar los problemas de TRAX y garantizar que su uso sea responsable. Según un portavoz de Google, ante as preocupaciones expresadas por el Dr. Hinton y otros expertos en tecnología, la compañía ahora está trabajando en nuevas herramientas y políticas para garantizar que TRAX se utilice de manera ética y responsable.