Feedback - Trustworthy e-commerce AI

Somos el equipo Trustworthy e-commerce AI,

Inspirados por la idea de pensar fuera de la caja y poner el foco en una aplicación de inteligencia artificial donde no sea demasiado evidente el impacto social y de inclusión, nuestra propuesta se centra en los sistemas de recomendación de compras en comercio online. En concreto en supermercados online.

Tal y como se comentaba esta mañana en el primer seminario, nos parecía importante encontrar un ejemplo cotidiano y que tuviera una aplicación a un gran número de personas. La compra online es una aplicación con un crecimiento continuo a lo largo de los últimos años que puede llegar a facilitar enormemente la vida de los usuarios. En concreto, los sistemas de recomendación mediante IA son de mucha ayuda en la toma de decisiones y podría tener un gran impacto en la vida de los ciudadanos.

Con esta propuesta creemos que podemos cubrir en gran parte el objetivo de estas jornadas, desde los puntos más generales (como la seguridad, trazabilidad, sostenibilidad, …) como la inclusión. La accesibilidad a este tipo de herramientas deja fuera en muchas ocasiones a usuarios. En cuanto a la accesibilidad (lo cual genera exclusión):

Acceso a los equipos informáticos que se utilizan (sesgo económico y de edad)
Utilización de los mismos (movilidad reducida, ciegos, ancianos, …)

Además, el diseño de los sistemas de recomendación pueden también ser una fuente de exclusión por no estar diseñados para todos los posibles usuarios. Nuestra idea es estudiar si las recomendaciones tienen en cuenta las características físicas (intolerancias como por ejemplo la celiaquía, ancianos con necesidades concretas, personas que por motivos religiosos no pueden comer ciertos animales), las realidades sociales (dependiendo de la zona donde se encuentre el usuario puede no recibir servicio por tratarse de una zona desfavorecida ej: amazon no reparte en las 3000 viviendas pero amazon prime si), el impacto ambiental (comercio de proximidad), la ética en el tratamiento de los datos (etc)...

Queremos saber si lo estamos enfocando bien y en qué puntos tendríamos que poner más atención.

Muchas gracias y un saludo a todos!