El organismo de control de datos del Reino Unido advierte sobre discriminación en neurotecnología

Jan 26, 2024

Primero, la gente se preocupaba por el sesgo algorítmico. Ahora, les preocupa que el sesgo de la IA amplíe ese peligro. Pero pronto, la gran preocupación puede ser el sesgo en la neurotecnología, un campo que crece rápidamente y que incluye empresas como Neuralink de Elon Musk y el rival respaldado por Jeff Bezos y Bill Gates, el fabricante de implantes cerebrales Synchron.

El regulador de protección de datos del Reino Unido, la Oficina del Comisionado de Información (ICO, por sus siglas en inglés), dijo hoy que esperaba que los dispositivos que aprovechan las señales provenientes del sistema nervioso "se generalicen durante la próxima década". Si bien los investigadores ya están utilizando implantes cerebrales para combatir la demencia y ayudar a las personas paralizadas a caminar de nuevo, dijo el organismo de control, "las neurotecnologías se están desarrollando rápidamente para su uso en los sectores de bienestar personal, deportes y marketing e incluso para monitorear a las personas en el lugar de trabajo".

El ICO teme que un sesgo peligroso pueda colarse en los modelos que se están desarrollando para leer e interpretar datos neuronales, si los dispositivos no se evalúan en personas neurodivergentes en particular. Por ejemplo, los sistemas de neurotecnología podrían tener la suposición integrada de que ciertos patrones son "indeseables... [así que] aquellos con esos patrones pueden ser pasados ​​por alto para promociones u oportunidades de empleo".

"La neurotecnología recopila información personal íntima de la que las personas a menudo no son conscientes, incluidas las emociones y el comportamiento complejo. Las consecuencias podrían ser nefastas si estas tecnologías se desarrollan o implementan de manera inapropiada", dijo el jefe de riesgo regulatorio de la agencia, Stephen Almond.

Synchron ya está realizando pruebas en humanos de su implante cerebral; dijo a principios de este año que el implante "parecía ser seguro y permitía a los pacientes enviar mensajes de texto, correos electrónicos, transacciones bancarias y compras en línea, y comunicar las necesidades de atención usando sus pensamientos". Neuralink, que afirma que su interfaz cerebral "restaurará la autonomía a aquellos con necesidades médicas no satisfechas hoy y desbloqueará el potencial humano mañana", finalmente obtuvo la aprobación de la FDA para pruebas en humanos hace un par de semanas.

Meta también incursionó en el espacio de la interfaz cerebral durante varios años bajo su anterior apariencia de Facebook, pero se retiró en 2021, sobre la base de que el hardware montado en la cabeza del consumidor estaba muy lejos. En su lugar, decidió centrarse en desarrollar un dispositivo de muñeca que pudiera detectar señales nerviosas motoras eléctricas, el tipo de cosa que podría resultar útil para interactuar con el metaverso.

El ICO considera que estos dispositivos portátiles serán los que ganen tracción real en el mercado dentro de varios años, se integrarán en rastreadores de actividad física, se implementarán en el lugar de trabajo y se utilizarán para jugar juegos VR/AR.

Sin embargo, si ha visto ese fascinante tweet del neurotecnólogo Sterling Crispin, quien trabajó en los auriculares Vision Pro de Apple y lo describió como "una interfaz cruda de cerebro-computadora a través de los ojos"... no, al ICO no le preocupa eso. "Estamos hablando de la recopilación de datos directamente del cerebro y el sistema nervioso de las personas", me dijo un portavoz.

El ICO dijo que emitirá una guía específica de neurodatos para 2025. Mientras tanto, tiene un informe sobre el tema, que puede leer aquí.

Más noticias a continuación.

¿Quiere enviar pensamientos o sugerencias a la hoja de datos? Deja una línea aquí.

david meyer

La sección de noticias diarias de Data Sheet fue escrita y curada por Andrea Guzmán.

Google y Salesforce se unen. Después de una colaboración de análisis y big data en 2017, los gigantes tecnológicos Salesforce y Google decidieron asociarse nuevamente. Este último proyecto permitirá a las empresas utilizar sus datos junto con modelos de aprendizaje automático personalizados para anticipar las necesidades de sus clientes. Implicará la integración de Data Cloud de Salesforce con BigQuery de Google y la plataforma Vertex AI para que los usuarios puedan traer cualquier modelo de IA que hayan entrenado en Vertex a través de la plataforma de Salesforce. El acuerdo sigue a los anuncios de Salesforce de este año sobre nuevas herramientas de inteligencia artificial, como su asistente para la gestión de relaciones con los clientes conocido como Einstein GPT, y mientras Google va detrás de Amazon y Microsoft en el mercado de infraestructura de la nube de EE. UU., informa TechCrunch.

Twitch se retracta de los cambios en los anuncios. Los cambios de Twitch a su política de contenido de marca y patrocinado que entrarán en vigencia el 1 de julio prohibieron los anuncios gráficos, de audio o de video "grabados". Pero después de que streamers como MrBeast compartieron su frustración por el impacto que traería a sus ingresos y consideraron boicotear la plataforma, Twitch decidió descartar los cambios. En un tuit, la plataforma propiedad de Amazon se dirigió a los streamers y dijo que no impediría su capacidad de tener relaciones directas con los patrocinadores. "Seguirá siendo propietario y controlando su negocio de patrocinio", escribió Twitch.

El anuncio de DeSantis usa una imagen artificial falsa de Trump. A principios de esta semana, la cuenta de Twitter "DeSantis War Room" compartió un video que incluye tres imágenes generadas por IA del expresidente Trump abrazando al exasesor médico jefe de la Casa Blanca, Anthony Fauci. Los expertos forenses de medios digitales dijeron a la AFP que las imágenes probablemente eran falsas y no se podían encontrar en las búsquedas de imágenes inversas. Algunos expertos se han preocupado por el impacto que la IA avanzada podría tener en las elecciones de 2024, mientras que otros señalan que la información errónea creada por humanos se ha extendido en las elecciones recientes, por lo que puede que no marque una gran diferencia.

—Clasificación de la aplicación de calidad del aire de la EPA en la tienda de aplicaciones de Apple, por delante de Facebook, Twitter y Snapchat. Como la calidad del aire de la ciudad de Nueva York se ve afectada por el humo procedente de los incendios forestales canadienses, el metro ha encabezado la lista de la peor calidad del aire del mundo.

Incluso el director ejecutivo de OpenAI, Sam Altman, cree que la gente se está volviendo un poco loca por la IA: "Está muy sobrevalorada a corto plazo", por Prarthana Prakash

El 'padre del iPod' dice que Apple ha 'realmente saltado al tiburón' con sus auriculares de realidad virtual de $ 3,500, por Chloe Taylor

Dos de los cripto bros más ricos vieron cómo se eliminaban casi $ 2 mil millones de su riqueza combinada luego de la represión de Binance y Coinbase, por Christiaan Hetzner

Google aumenta el impulso de regreso a la oficina mediante el uso de la asistencia en persona como parte de las revisiones de desempeño de los empleados, por Prarthana Prakash

El creador de 'Black Mirror', Charlie Brooker, dice que intentó que ChatGPT escribiera un episodio de su exitoso programa, pero fue una 'mierda', de Chloe Taylor

Los ingenieros intentan transmitir energía solar desde el espacio a la Tierra. En enero, un equipo de Caltech lanzó un conjunto de pruebas en órbita sobre componentes para energía solar basada en el espacio, y ahora está arrojando resultados alentadores. Otros también están haciendo un intento. Los laboratorios militares estadounidenses creen que algún día podrían transmitir energía desde el espacio a bases o zonas de combate. Mientras tanto, la Agencia Espacial Europea tiene un plan para una red solar espacial y la Academia de Tecnología Espacial de China apunta a un prototipo de satélite de transmisión de energía para 2028.

The Wall Street Journal informa que un gran desafío es identificar una forma segura y confiable de transmitir gigavatios de energía al suelo y luego convertirla en electricidad que la gente pueda usar. Un método podría ser haces de microondas, pero la Comisión Europea encontró que los haces no serían lo suficientemente fuertes. Aún así, es uno de los métodos más favorecidos en este momento. "Es básicamente la misma tecnología que la carga inalámbrica para su teléfono celular", dijo al periódico Chris Rodenbeck, jefe del Grupo de Conceptos Avanzados en el Laboratorio de Investigación Naval de EE. UU. en Washington, DC.

Esta es la versión web de Data Sheet, un boletín diario sobre el negocio de la tecnología. Regístrese para recibirlo gratis en su bandeja de entrada.