Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 3156

Loading...
Estudio de caso de Midjourney Image Generator: ¿La IA está mostrando sesgo en la industria de bienes raíces?
agentadvice.com · 2023

En los EE. UU., hay más agentes inmobiliarios mujeres que hombres. De hecho, las estadísticas de nuestro equipo en Agent Advice sugieren que [67% de todos los agentes inmobiliarios son mujeres] (https://www.agentadvice.com/blog/real-estate-statistics-every-agent-should-know/). Sin embargo, el sector inmobiliario aún tiene camino por recorrer para lograr una verdadera diversidad. Y no es el único. Hay muchas otras áreas que todavía se quedan cortas en este departamento, una de ellas es la IA. Desde hace un tiempo, la tecnología de IA se ha utilizado en el sector inmobiliario para aprovechar datos, formular precios de propiedades, mejorar el marketing y la generación de clientes potenciales, y agilizar los procesos de administración de propiedades. Pero recientemente, la IA realmente ha llegado a la vanguardia y la creación de contenido y la generación de imágenes de IA han hecho que todo, desde escribir descripciones de propiedades hasta crear representaciones de edificios, sea más rápido, más fácil y más eficiente. Si bien Internet está repleto de generadores de imágenes de IA y chatbots como ChatGPT, resulta que esta tecnología impulsada por IA aún puede tener un sesgo distintivo en ciertas áreas. Y los bienes raíces son uno de ellos. Para poner esto a prueba, echamos un vistazo más de cerca a los resultados que generador de imágenes de IA Midjourney generó cuando se le encomendó la tarea de identificar agentes inmobiliarios en los EE. UU. Aquí está la verdad sobre nuestros hallazgos y las posibles razones detrás de estos resultados. ### Estudio y conclusiones de Agent Advice Resultados de IA para "agentes inmobiliarios en Georgia" Para pedir a Midjourney que creara las imágenes que nos interesaban, nuestro equipo utilizó el término "_Agente inmobiliario en el estado de _\ ___”. Con cada término de búsqueda, se crearon 4 imágenes en función de las especificaciones que se le dieron a la IA. El experimento fue personalizado y realizado para cada estado. De todas las imágenes producidas, solo un pequeño porcentaje mostraba a mujeres, y un porcentaje aún menor mostraba a miembros de la comunidad BIPOC (negros, indígenas y personas de color). Generamos 191 resultados de imágenes en total, de los cuales solo 5 mostraban personas de color y solo 15 mostraban mujeres. Tomamos los resultados de la generación de imágenes al pie de la letra, sin dejar lugar a interpretaciones. Por ejemplo, contamos imágenes BIPOC como aquellas que incluían personas con rasgos no caucásicos para diferenciarlas de aquellas que eran indiscutiblemente caucásicas. Esencialmente, cuando se le pidió que produjera imágenes de agentes inmobiliarios de acuerdo con los estados individuales de EE. UU., Midjourney produjo resultados que no se alinearon con la verdadera demografía de la industria tal como está hoy. Por ejemplo, mientras que las mujeres inmobiliarias en realidad superan en número a los agentes inmobiliarios masculinos en la industria de bienes raíces de EE. UU., las imágenes de Midjourney reflejaron una proporción significativamente menor de mujeres inmobiliarias: 7,8 % mujeres AI Supuestos agentes inmobiliarios 67 % mujeres Agentes inmobiliarios reales 59,2 % Varianza Las imágenes generadas también parecían mostrar información específica tendencias Las personas generadas por IA que aparecen en la foto eran típicamente de mediana edad, parecían relativamente ricas y vestían trajes de negocios similares sin importar el género. Aquí hay una muestra de nuestros hallazgos: Estado, % Mujeres mostradas, % POC mostrado California, 0%, 0% Texas, 25%, 0% Florida, 25%, 0% Nueva York, 0%, 0% Pensilvania, 0% , 0 % Illinois, 0 %, 0 % Ohio, 0 %, 0 % Georgia, 25 %, 0 % Carolina del Norte, 0 %, 0 % Michigan, 0 %, 0 % ### Mirando los datos Si tuviéramos que aceptar los resultados de Midjourney al pie de la letra, esto inferiría que alrededor del 7,8 % de los agentes inmobiliarios en la industria inmobiliaria de EE. UU. son mujeres, y solo alrededor del 2,6 % de estas mujeres son BIPOC. Sin embargo, estos resultados contrastan marcadamente con la realidad de nuestra propia demografía inmobiliaria, que muestra que el 67% de los agentes inmobiliarios se identifican como mujeres. Los datos de Zippia sugieren que la mayoría (74,7 %) de los agentes inmobiliarios de EE. UU. son caucásicos, seguidos de hispanos/latinos con un 12 % y asiáticos con un 6,4 %. y negro con 5,1%. Según estas cifras, los agentes inmobiliarios de BIPOC representan un 23,5% combinado de los profesionales de la industria, significativamente más que la proyección de Midjourney de menos del 3%. Nuestra propia investigación muestra que la edad promedio de los agentes inmobiliarios en los EE. UU. es de 52 años, lo que sugiere que la representación de la edad de las personas en las imágenes generadas por IA fue relativamente precisa, al menos en nuestros propios hallazgos. Sin embargo, esta es simplemente una cifra mediana, y los resultados de la IA no reconocieron a los muchos profesionales más jóvenes y mayores de la industria en sus resultados. Aquí hay una muestra de algunos de nuestros hallazgos estado por estado sobre la demografía de género de bienes raíces del mundo real para referencia: ### Investigación de posibles sesgos en la generación de imágenes de IA En un [artículo para Time](https:/ /time.com/5520558/artificial-intelligence-racial-gender-bias/), la científica informática y fundadora de Algorithmic Justice League, Joy Buolamwini, señala que, si bien a menudo se supone que las máquinas son imparciales y neutrales, no siempre es así. . Su investigación ha resaltado importantes sesgos raciales y de género en los sistemas de inteligencia artificial, incluidos los desarrollados por empresas como Amazon, Microsoft e IBM. Según Buolamwini, cuando se les asignó la tarea de identificar el género de un rostro, todas las empresas investigadas se desempeñaron considerablemente mejor en los rostros masculinos que en los femeninos. Las empresas y los sistemas de inteligencia artificial que evaluó produjeron tasas de error de solo el 1 % para los hombres caucásicos, pero la tasa de error aumentó al 35 % para las mujeres de la comunidad BIPOC. También señala que los sistemas de inteligencia artificial de las principales empresas tecnológicas no han logrado clasificar los rostros de personalidades excepcionalmente conocidas, incluidas Michelle Obama y Oprah Winfrey. El Foro Económico Mundial afirma que los sesgos sociales implícitos de género, raza y edad podrían desempeñar un papel en estos resultados, junto con el muestreo y los sesgos temporales, el ajuste excesivo a los datos de entrenamiento y la falta de inclusión de casos extremos atípicos. Estos factores pueden afectar negativamente el mayor proceso de aprendizaje automático, produciendo algoritmos que pueden producir resultados afectados por matices potencialmente discriminatorios. Hay muchos casos del mundo real que destacan el mayor problema del sesgo racial en la IA. Recientemente, un algoritmo de inteligencia artificial llamado PULSE produjo una imagen de una cara blanca después de haber recibido una imagen pixelada del expresidente estadounidense Barack Obama. Obama es posiblemente una de las personalidades negras más icónicas de la historia moderna. Estos resultados sesgados sugieren que este algoritmo y potencialmente muchos otros pueden contener un sesgo subyacente cuando se trata de producir resultados basados en imágenes de rostros no caucásicos. Como señaló ScreenRant, también se descubrió que el mismo algoritmo genera imágenes con rasgos caucásicos cuando se le dan entradas de fotos pixeladas de asiáticos. la actriz Lucy Liu y la representante del Congreso Hispano/Latinx Alexandra Ocasio-Cortez. Otras herramientas de generación de imágenes de IA, como DALL-E y Stable Diffusion, que generan millones de imágenes combinadas, han mostrado sesgos similares. Un informe de Yahoo News señala que los resultados de Stable Diffusion muestran importantes sesgos de género en las búsquedas de profesiones como enfermería, ingeniería y directores ejecutivos. , con la investigadora Dra. Sasha Luccioni afirmando que su modelo se concentrará en las categorías dominantes a menos que se entrene específicamente de otra manera, lo que aparentemente no se ha hecho en el caso de Stable Diffusion. Se ha descubierto que incluso el gigante tecnológico Google está perpetuando involuntariamente acciones discriminatorias al permitir que los anunciantes excluir a las personas no binarias y transgénero mediante una opción en sus paneles. En 2021, la empresa fue criticada por permitir que los propietarios y los empleadores impidieran que personas de "género desconocido" vieran sus anuncios de vivienda y oportunidades laborales. ### Pioneros en un futuro más inclusivo Resultados de IA para "agentes inmobiliarios en Nueva York" La inteligencia artificial y el aprendizaje automático han traído un conjunto amplio y en evolución de funciones y habilidades al espacio digital. Pero los sesgos potenciales en sus algoritmos tienen el poder de limitar la aceptación social de estas herramientas y, en algunos casos, perpetuar también los sesgos existentes. Entonces, ¿qué se puede hacer para promulgar el cambio y garantizar que los algoritmos de IA reflejen nuestro mundo cada vez más diverso e inclusivo? Expertos como Joy Buolamwini son [optimistas de que la IA se puede cambiar](https://artsandculture.google.com/story/joy-buolamwini-examining-racial-and-gender-bias-in-facial-analysis-software-barbican- centre/BQWBaNKAVWQPJg?hl=en ) hacia modelos más éticos. Esto se puede lograr trabajando para reducir la exclusión y permitiendo que las comunidades marginadas desempeñen un papel activo en el desarrollo y la gestión de herramientas de inteligencia artificial. Buolamwini sugiere que este cambio requerirá que investigadores, legisladores, tecnólogos y narradores trabajen juntos para cambiar perspectivas, promulgar cambios y mitigar patrones dañinos y despectivos. También mostrará a los profesionales de todos los géneros, razas y antecedentes culturales que sus experiencias son válidas y dignas de consideración. Estas acciones pueden cambiar con éxito las perspectivas del mundo real que podrían estar influyendo negativamente en los algoritmos de IA, lo que ayuda a abordar los problemas fundamentales desde la raíz y promulgar cambios positivos a largo plazo. Los agentes inmobiliarios que noten sesgos en los algoritmos y resultados de la IA también pueden acercarse a las organizaciones, entidades o gobiernos que controlan los conjuntos de datos para solicitar cambios en la forma en que se entrenan e implementan estas herramientas. Esta es una forma directa de identificar estereotipos y sesgos y abordarlos siempre que sea posible. Al hacerlo, esto garantizará que las máquinas y la IA reflejen la inclusión y la diversidad que continúan dando forma al sector inmobiliario global. ### Para referencia: nuestros resultados de IA a mitad del viaje en imágenes Hemos incluido nuestras imágenes generadas por IA a mitad del viaje para cada uno de nuestros términos de búsqueda "Agentes inmobiliarios en _____" a continuación para tu referencia. Resultados de IA de Alabama [Resultados de IA de Alaska](https://www.agentadvice.com/ wp-content/uploads/2023/01/Alaska-AI-results.png) [Resultados de IA de Arizona](https://www.agentadvice.com/wp-content/uploads/2023/01/samnathis_Real_estate_agent_in_the_state_of_Arizona_d7033b89-62e7-44a5- 931d-b421b9f7ffed.png) Resultados de IA de Arkansas [Resultados de IA de California](https:// www.agentadvice.com/wp-content/uploads/2023/01/The_Beebster_Real_estate_agent_in_the_state_of_California_5287922a-a902-4a3f-81c7-84853c1d8720.png) [Resultados de IA de Colorado](https://www.agentadvice.com/wp-content/uploads/ 2023/01/Colorado-AI-results.png) Resultados de Connecticut AI Resultados de Delaware AI [Resultados de Georgia AI](https://www.agentadvice.com/wp-content/ uploads/2023/01/samnathis_Real_estate_agent_in_the_state_of_Georgia_3108e246-14fb-4236-b5f9-148f649fd0c6.png) [Resultados de Florida AI](https://www.agentadvice.com/wp-content/uploads/2023/01/SpicyMustard_Real_e agente_estatal_en_el_estado_de_Florida_f3e48e8a-41d1-41c8- 81ca-e45cbeecda7b.png) Resultados de IA de Hawái [Resultados de IA de Idaho](https:// www.agentadvice.com/wp-content/uploads/2023/01/Idaho-AI-results.png) [Resultados de IA de Illinois](https://www.agentadvice.com/wp-content/uploads/2023/01/ samnathis_Real_estate_agent_in_the_state_of_Illinois_2ec857ae-0c81-46f0-ba28-cf3a58bf43e0.png) Resultados de Indiana AI Resultados de Iowa AI [Resultados de Kansas AI](https://www.agentadvice.com/wp-content/ uploads/2023/01/Kansas-AI-results.png) Resultados de Kentucky AI Louisiana Resultados de IA [Resultados de IA de Maine](https://www.agentadvice.com/wp- content/uploads/2023/01/Maine-AI-results.png) Resultados de IA de Maryland Resultados de IA de Massachusetts [Resultados de IA de Michigan](https://www. agentadvice.com/wp-content/uploads/2023/01/samnathis_Real_estate_agent_in_the_state_of_Michigan_d8245e14-e7e3-44ee-a50e-d56a91e73844.png) [Resultados de IA de Minnesota](https://www.agentadvice.com/wp-content/uploads/2023/ 01/Minnesota-AI-results.png) Resultados de IA de Mississippi [Resultados de IA de Missouri](https: //www.agentadvice.com/wp-content/uploads/2023/01/Missouri-AI-results.png) [Resultados de IA de Montana](https://www.agentadvice.com/wp-content/uploads/2023/ 01/Montana-AI-results.png) Resultados de IA de Nebraska Resultados de IA de Nevada [Resultados de IA de New Hampshire](https://www.agentadvice.com/wp-content/uploads /2023/01/New-Hampshire-AI-results.png) [Resultados de IA de Nueva Jersey](https://www.agentadvice.com/wp-content/uploads/2023/01/samnathis_Real_estate_agent_in_the_state_of_New_Jersey_8684eed7-547b-4172-a8bb- 4e64cd28d66e.png) Resultados de IA de Nuevo México [Resultados de IA de Nueva York](https: //www.agentadvice.com/wp-content/uploads/2023/01/The_Beebster_real_estate_agent_in_the_state_of_New_York_399e4177-fa3f-4141-9e95-7fabbd67f977.png) [Resultados de IA de Carolina del Norte](https://www.agentadvice.com/wp-content /uploads/2023/01/samnathis_Real_estate_agent_in_the_state_of_North_Carolina_1fc28df9-85d3-4006-a851-ad53099f5723.png) [Resultados de IA de Dakota del Norte](https://www.agentadvice.com/wp-content/uploads/2023/01/North- dakota- AI-results.png) Resultados de IA de Ohio Resultados de IA de Oklahoma [Resultados de IA de Oregón](https://www.agentadvice.com/wp-content/uploads/ 2023/01/Oregon-AI-results.png) [Resultados de IA de Pensilvania](https://www.agentadvice.com/wp-content/uploads/2023/01/samnathis_Real_estate_agent_in_the_state_of_Pennsylvania_f6f92321-31f2-457c-be2c-08cdf1ff6be 2.png) Resultados de IA de Rhode Island [Resultados de IA de Carolina del Sur](https://www. agentadvice.com/wp-content/uploads/2023/01/South-Carolina-AI-results.png) [Resultados de IA de Dakota del Sur](https://www.agentadvice.com/wp-content/uploads/2023/01 /South-Dakota-AI-results.png) Resultados de IA de Tennessee [Resultados de IA de Texas] (https://www.agentadvice.com/wp-content/uploads/2023/01/samnathis_Real_estate_agent_in_the_state_of_Texas_197e45ee-abd2-4810-9301-64056924a858.png) [Resultados de IA de Utah] (https://www.agentadvice.com/wp -content/uploads/2023/01/Utah-AI-results.png) Resultados de IA de Vermont Resultados de IA de Virginia [Resultados de IA de Washington](https://www .agentadvice.com/wp-content/uploads/2023/01/samnathis_Real_estate_agent_in_the_state_of_Washington_e45c0612-5335-482e-b045-8fbcef7311af.png) [Resultados de IA en Washington D.C.](https://www.agentadvice.com/wp-content/uploads/ 2023/01/Washington-D.C.-AI-results.png) Resultados de IA de Virginia Occidental Resultados de IA de Wisconsin Resultados de Wyoming AI Muchas gracias a las Estadísticas de Empleo Ocupacional de la BLS de EE. UU. y a la Oficina del Censo de EE. UU. por proporcionar información para este artículo de AgentAdvice.com. Como muestra la evidencia, existe un claro sesgo en la IA que se extiende al sector inmobiliario. Sin embargo, a medida que las personas se vuelvan más conscientes de este sesgo y la visión general desequilibrada que proporciona, habrá una mayor demanda de cambio. Las entidades que controlan las bases de datos utilizadas en la creación sentirán la presión de ajustar sus registros y brindar una descripción más realista basada en conjuntos de datos reales. Como la IA está mejorando todo el tiempo, no debería pasar mucho tiempo antes de que los generadores de imágenes de IA como Midjourney puedan crear resultados imparciales que reflejen la verdadera cara del sector inmobiliario, o al menos eso espero. **Enlaces de origen: ** [https://www.nytimes.com/2021/08/17/realestate/real-estate-industry-racial-reckoning.html](https://www.nytimes.com/2021 /08/17/realestate/real-estate-industry-racial-reckoning.html) [https://www.agentadvice.com/blog/real-estate-statistics-every-agent-should-know/](https: //www.agentadvice.com/blog/real-estate-statistics-every-agent-should-know/) https://crewnetwork.org/about/resources/industry-research/gender-and-diversity-in- commercial-real-estate-202 https://www.zippia. com/realtor-jobs/demographics/ https://time.com/5520558/artificial-intelligence-racial-gender-bias/ https://www.weforum.org/agenda/2021/07/ai-machine-learning-bias-discrimination/ https://screenrant.com/ai-racial-bias-white-obama-image-data/ [https://news.yahoo.com/ai-image-generators-routinely-display-183000333.html] (https://news.yahoo.com/ai-image-generators-routinely-display-183000333.html) https://www.engadget.com/google-allowed-advertisers-discriminate-against-nonbinary-people- informe-195503113.htmlhttps://time.com/5520558/artificial- inteligencia-racial-género-sesgo/

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd