¿Estamos seguros de que queremos un hogar y dispositivos inteligentes más inteligentes?

15 de mayo de 2023 por Stacey Higginbotham 4 comentarios

Esta historia fue publicada originalmente el viernes 12 de mayo en mi boletín semanal. Para recibir el boletín, regístrese aquí.

Apple quiere crear un entrenador de salud con la capacidad de rastrear los signos vitales de las personas, así como sus emociones. Mientras tanto, Amazon está probando una versión más inteligente de su robot Astro, que incluye la capacidad de rastrear y recordar lo que sucede en los hogares de las personas para poder monitorearlos mejor.

En la propia web, las personas se están dando cuenta de que sus chats con ChatGPT/IA generativa pueden filtrar accidentalmente inteligencia privada o incluso competitiva. Incluso los empleados de Amazon estaban preocupados por las implicaciones de privacidad de los planes de la empresa para crear un entrenador de salud. Basado en todo esto, tengo que preguntar: ¿Realmente queremos los dispositivos y servicios más inteligentes que las empresas están construyendo?

Inicialmente me entusiasmó el potencial del internet de las cosas para agregar detección y conectividad a objetos y lugares cotidianos. Con la información que recopilan y el acceso a la computación en la nube barata para el análisis de datos, esperaba que hiciéramos visible lo invisible. Específicamente, esperaba que tomáramos algunas de las externalidades invisibles asociadas con la contaminación o los procesos industriales y efectuáramos un cambio positivo.

Tal vez sería una ONG que responsabiliza a una fábrica por la contaminación del aire, o una ciudad que promulgue diferentes leyes de zonificación para evitar que las personas vivan sobre áreas tóxicas. Tal vez una fábrica usaría los datos que recopila para reducir la cantidad de materiales dañinos en su producto o para hacer un nuevo producto que dure más.

Si bien veo un poco de esto último, especialmente cuando se trata de reducir las emisiones de carbono o reducir los desechos, no veo mucho relacionado con el uso de datos de sensores para responsabilizar a la empresa privada. El IoT está haciendo visible lo invisible, pero hasta ahora lo está haciendo de una manera que beneficia solo al resultado final.

Y cuando se trata del hogar inteligente y los consumidores, tengo que preguntar: ¿Realmente queremos hacer completamente visible lo que actualmente mantenemos invisible para las empresas tecnológicas, los intermediarios de datos y las empresas y los gobiernos que les compran?

Con la exageración en torno a la IA generativa como ChatGPT, las grandes empresas de tecnología están incorporando sus propios modelos de lenguaje grande u otros modelos generativos en sus productos. Esta semana en Google I/O, la empresa de búsqueda mostró el uso de nuevos modelos en búsqueda, generación de imágenes, seguridad y medicina, y también como una forma de ayudar a "impulsar" la creatividad.

Amazon ha hablado sobre mejorar Alexa con un nuevo modelo de lenguaje grande, y Business Insider informa que tiene un proyecto con nombre en código Burnham que le dará a su robot Astro la capacidad de recordar cosas y responder preguntas. Pero, ¿quiero un pequeño robot armado con una cámara patrullando mi casa en busca de problemas?

Amazon lo presenta como una forma de asegurarse de que la estufa esté apagada, o un medio para ver cosas como vidrios rotos y avisarle que algo anda mal. Pero también será una forma de que las familias vigilen a las personas en el hogar y, dependiendo de las características de privacidad (debe proporcionar almacenamiento local y encriptación para los datos en la nube), una forma de que las empresas obtengan mucha más información sobre la vida en el hogar que nosotros. empezar a imaginar. Esa información puede parecer benigna, como el tipo de papel higiénico que usa o la cantidad de gatos en su hogar, pero las empresas de tecnología pueden monetizar esa información de muchas maneras, y ninguna de esas formas tiene en cuenta los beneficios para el consumidor.

Por ejemplo, cuando los usuarios le preguntaron a Alexa sobre el yoga, Amazon les ofreció anuncios de su producto portátil Halo, asumiendo que la persona estaba interesada en el ejercicio. Con algo como un Astro más inteligente, el consumidor no tiene que preguntar activamente a un dispositivo que sabe que está conectado a la nube sobre una colchoneta de yoga; el robot puede recorrer la casa, anotar una colección de pesas o equipo de fitness y luego enviar a Amazon los datos que llevan al perfil demográfico de los consumidores a etiquetarse en salud y bienestar.

Un ejemplo más inquietante es cómo algunos de los datos de usuario de los dispositivos inteligentes se venden a intermediarios de datos. Hoy en día, el gran alboroto se debe a los datos de ubicación de los teléfonos celulares, especialmente después de que varios estados criminalicen la atención médica de las mujeres. En agosto, la Comisión Federal de Comercio (FTC) demandó a una empresa llamada Kochava por la venta de datos de ubicación como parte de un esfuerzo general para dominar la recopilación de datos sobre los consumidores.

La semana pasada, un juez federal en Idaho devolvió la demanda de la FTC, argumentando que la agencia no probó que la recopilación y venta de datos hubiera causado "daño sustancial" a los consumidores. El juez estuvo de acuerdo en que la recopilación y venta de dichos datos personales tenía el potencial de causar daño, pero necesitaba que la FTC proporcionara hechos adicionales que probaran el daño.

Esto es tanto un golpe como una oportunidad. Para muchos, demostrar un daño sustancial por la pérdida de privacidad será un desafío. Si bien, sin duda, veremos algunos casos en los que la venta de datos de consumidores conduce a daños sustanciales, como un arresto después de un aborto o lesiones reales de una pareja violenta o un acosador, la ley no reconoce los daños progresivos de una vida bajo constante y vigilancia invisible. Pero podría

Sin embargo, actualmente, cuando no entendemos completamente los riesgos de agregar nuestros datos a algunos de los modelos más nuevos, y las empresas quieren agregar más cámaras y más dispositivos a nuestros hogares que pretenden "comprendernos" o entrenarnos, es un riesgo. para hacer nuestro yo completo tan visible. Pero eso es exactamente lo que haremos con algunos de estos dispositivos y servicios más nuevos.

Por mucho que me guste la tecnología y la comodidad de algunos de mis dispositivos inteligentes, me preocupa la combinación de servicios más inteligentes, más cámaras, más sensores y una IA "más inteligente". Creo que debería preocuparte a ti también.

¿Quiere las últimas noticias y análisis de IoT? Recibe mi newsletter en tu bandeja de entrada todos los viernes.

Archivado como: Análisis, Destacado Etiquetado con: Amazon, Apple, ChatGPT, google, casa inteligente

Ingrese su dirección de correo electrónico para recibir notificaciones de nuevas publicaciones por correo electrónico.

Dirección de correo electrónico

Suscribir