El investigador del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) y catedrático de la Universitat Politècnica de València (UPV), José Such, ha liderado un grupo de investigación internacional con 16 expertos del mundo académico, la industria y la administración de diferentes países y universidades, EEUU, Reino Unido y Alemania entre otros, que ha identificado los cuatro grandes retos para que la inteligencia artificial respete la privacidad de los usuarios.
Estos cuatro retos identificados, que marcarán la hoja de ruta de la investigación en esta materia a nivel mundial durante los próximos años, son la privacidad inclusiva, donde es necesario estudiar y reforzar la privacidad de las poblaciones de riesgo -bien sea discriminación por sexo, edad, orientación sexual, origen étnico, discapacidad, condiciones de salud, religión, circunstancias personales o factores socioculturales- de forma responsable y ética.
En segundo lugar, diseñar y desarrollar un mejor apoyo y comunicación para la toma de decisiones (reversibles) y comunicaciones relacionadas con la privacidad. En tercer lugar, aquellas cuestiones que tienen que ver con la privacidad y la inteligencia artificial para capacitar a los usuarios en la gestión de su privacidad dentro de los sistemas de IA, y promover un funcionamiento transparente y explicable.
Y en cuarto lugar, aquella que tiene que ver con la privacidad multiusuario, cuando la privacidad de las personas se ve afectada por la información compartida por otros, y en la que es necesario proporcionar las herramientas adecuadas para apoyar a los usuarios.
Las conclusiones de este equipo se han desarrollado en el artículo colaborativo “Grandes retos de la privacidad centrada en el ser humano” y se han publicado en la revista IEEE Security & Privacy. Además, el investigador de VRAIN de la UPV ha sido invitado como destacado experto en esta materia al seminarioque se celebra del 22 al 27 de junio en la ciudad alemana de Dagstuhl, donde el grupo se ha concentrado para seguir avanzando en esta temática.
Tal y como explica el investigador de VRAIN de la UPV, José Such, :“este artículo ofrece un punto de partida para quienes, en el mundo académico, la industria o la administración pública, estén interesados en impulsar la agenda de la privacidad centrada en el ser humano y orientar la investigación y la práctica centradas en el ser humano, para abordar los problemas de privacidad de las tecnologías modernas”.
Sobre VRAIN
El Instituto Universitario Valenciano de Investigación en Inteligencia Artificial – Valencian Research Institute for Artificial Intelligence- (VRAIN) de la UPV está integrado por ocho grupos de investigación que cuentan con más de 30 años de experiencia en diferentes líneas de investigación en IA.
El proceso de creación de VRAIN comenzó en 2019, fruto de la unión de seis grupos investigadores. En 2020, se fusionó con el Centro de Investigación en Métodos de Producción de Software PROS y en 2021 se constituyó finalmente como Instituto Universitario de Investigación con la aprobación de la Generalitat Valenciana.
En la actualidad, cuenta con más de 178 investigadores divididos en nueve áreas de investigación. Estas nueve áreas sobre las que gira su actividad investigadora hacen que sus desarrollos se apliquen a un gran número de sectores estratégicos como salud, movilidad, ciencias de la tierra, ciudades inteligentes, educación, redes sociales, agricultura, industria, privacidad/seguridad, robots autónomos, servicios y energía, y sostenibilidad ambiental entre otros.
Estas actividades han sido financiadas por más de 135 proyectos obtenidos mediante financiación competitiva, principalmente de la Unión Europea, pero también del Plan Nacional de Investigación, el Plan Valenciano de Investigación y Proyectos de Transferencia de Tecnología.
