TOMAR MALAS DECISIONES
DISCRIMINACIÓN. Tomar decisiones automatizadas a través de las conclusiones del Big Data es siempre objeto de debate, pero en el caso del ámbito biosanitario tiene dos peligros fundamentales: que las decisiones que se toman sean erróneas y la discriminación que puede producir
La información del ámbito sanitario es especialmente sensible para su tratamiento como dato. efe
«Los peligros de predecir el futuro son evidentes, y hay que tomarlos con más cautela cuando se refieren al ámbito biosanitario», apunta Juan José Vidal. Uno de ellos son las malas decisiones. «Las decisiones automáticas se basan en modelos matemáticos, pero afinar un modelo para que sus predicciones no entrañen riesgo es muy difícil. Es cierto que el Big Data ayuda a optimizar, pero es necesario tener suficientes datos, estandarizar la metodología y probar el modelo con unas garantías de seguridad muy estrictas. Cumplir todo esto es una tarea muy difícil, pero además hay que tener en cuenta otras ideas. Por ejemplo, el modelo debe de ser capaz de recibir retroalimentación por parte de los usuarios. Y sus decisiones no pueden girar en torno a cuestiones que requieran una profunda deliberación, en la que el sesgo humano podría ser útil para evitar datos en el paciente».
Pero además «existe riesgo a la discriminación del individuo. El Big Data, como la propia sociedad, categoriza. La tecnología, en su afán por buscar patrones y tendencias, crea estas categorías. Cuando hablamos del ámbito biosanitario esto puede tener mucho peso. La prevalencia de enfermedades, el consumo de medicinas, y otros parámetros del campo de la salud pueden tener más presencia en unas categorías que en otras, y eso es la semilla de una posible discriminación de otros grupos». Por eso es inevitable pensar que un mal uso de estas agrupaciones puede conducir no sólo a errores, sino a una discriminación».
Por eso, apunta el biólogo, es necesario aumentar las exigencias de consentimiento como ciudadanos, pero también aplicar el principio de responsabilidad proactiva, no dejar todo en manos de la organización que tratará los datos. y proteger la privacidad por defecto.