Incidentes Asociados
EN LA DÉCADA posterior a los ataques del 11 de septiembre, el Departamento de Policía de la Ciudad de Nueva York se movió para poner a millones de neoyorquinos bajo vigilancia constante. Al advertir sobre amenazas terroristas, el departamento creó un plan para alfombrar las calles del centro de Manhattan con miles de cámaras y, para 2008, centralizó sus operaciones de videovigilancia en un solo centro de comando. Dos años más tarde, la policía de Nueva York anunció que el centro de comando, conocido como el Centro de Coordinación de Seguridad del Bajo Manhattan, había integrado un software de análisis de video de vanguardia en cámaras seleccionadas en toda la ciudad. El software de análisis de video capturó imágenes fijas de personas captadas en imágenes de un circuito cerrado de televisión y etiquetó automáticamente las imágenes con etiquetas físicas, como el color de la ropa, lo que permitió a la policía buscar rápidamente a través de horas de video imágenes de personas que coincidieran con una descripción de interés. En ese momento, el software también comenzaba a generar alertas para paquetes desatendidos, autos que aceleraban en una calle en la dirección equivocada o personas que ingresaban a áreas restringidas. A lo largo de los años, la policía de Nueva York ha compartido solo pequeñas actualizaciones ocasionales sobre el progreso del programa. En una entrevista de 2011 con Scientific American, por ejemplo, el inspector Salvatore DiPace, entonces oficial al mando de la Iniciativa de Seguridad del Bajo Manhattan, dijo que el departamento de policía estaba probando si el software podía bloquear imágenes de los rostros de las personas que pasaban por las cámaras del metro y, posteriormente, seleccionarlas. a través de las imágenes para varios "rasgos faciales" no especificados. Si bien la tecnología de reconocimiento facial, que mide rostros individuales en más de 16 000 puntos para realizar comparaciones detalladas con otras imágenes faciales, ha atraído un importante escrutinio legal y la atención de los medios, este software de identificación de objetos ha eludido en gran medida la atención. La policía de Nueva York nunca ha revelado públicamente cómo se desarrolló exactamente esta tecnología y qué características particulares se creó para catalogar el software. Ahora, gracias a documentos corporativos confidenciales y entrevistas con muchos de los tecnólogos involucrados en el desarrollo del software, The Intercept y el Investigative Fund se enteraron de que IBM comenzó a desarrollar esta tecnología de identificación de objetos utilizando el acceso secreto a las imágenes de las cámaras de la policía de Nueva York. Con acceso a imágenes de miles de neoyorquinos desconocidos ofrecidos por funcionarios de la policía de Nueva York, ya en 2012, IBM estaba creando nuevas funciones de búsqueda que permitían a otros departamentos de policía buscar imágenes de personas en imágenes de cámaras por color de cabello, vello facial y tono de piel. . IBM se negó a comentar sobre el uso de imágenes de la policía de Nueva York para desarrollar el software. Sin embargo, en una respuesta por correo electrónico a las preguntas, la policía de Nueva York le dijo a The Intercept que "de vez en cuando, se proporcionaba video a IBM para garantizar que el producto que estaban desarrollando funcionara en el entorno urbano abarrotado de Nueva York y nos ayudara a proteger la ciudad". . No hay nada en el acuerdo de la policía de Nueva York con IBM que prohíba compartir datos con IBM con fines de desarrollo de sistemas. Además, todos los proveedores que celebran acuerdos contractuales con la policía de Nueva York tienen el requisito absoluto de mantener la confidencialidad de todos los datos proporcionados por la policía de Nueva York durante la vigencia del acuerdo, después de la finalización del acuerdo y en caso de que se rescinda el acuerdo”. En un correo electrónico a The Intercept, la policía de Nueva York confirmó que funcionarios antiterroristas selectos tenían acceso a una versión prelanzada del programa de IBM, que incluía capacidades de búsqueda de tonos de piel, ya en el verano de 2012. El portavoz de la policía de Nueva York, Peter Donald, dijo que las características de búsqueda eran solo se usa con fines de evaluación y que los oficiales recibieron instrucciones de no incluir la función de búsqueda de tono de piel en su evaluación. El departamento finalmente decidió no integrar el programa de análisis en su arquitectura de vigilancia más grande y eliminó el programa de IBM en 2016. Después de probar estas funciones de búsqueda corporal con la policía de Nueva York, IBM lanzó algunas de estas capacidades en un lanzamiento de producto de 2013. Las versiones posteriores del software de IBM retuvieron y ampliaron estas capacidades de búsqueda corporal. (IBM no respondió a una pregunta sobre la disponibilidad actual de sus programas de análisis de video). Cuando se le preguntó sobre el secreto de esta colaboración, la policía de Nueva York dijo que "varios líderes electos y partes interesadas" fueron informados sobre los esfuerzos del departamento "para mantener esta ciudad segura". ”, y agregó que compartir el acceso a la cámara con IBM era necesario para que el sistema funcionara. IBM no respondió a una pregunta sobre por qué la empresa no hizo pública esta colaboración. Donald dijo que IBM otorgó licencias al departamento para aplicar el sistema a 512 cámaras, pero dijo que los análisis se probaron en "menos de cincuenta". Agregó que el personal de IBM tenía acceso a ciertas cámaras con el único propósito de configurar el sistema de NYPD, y que el departamento implementó medidas de seguridad para proteger los datos, incluidos “acuerdos de confidencialidad para cada individuo que accede al sistema; acuerdos de confidencialidad para las empresas para las que trabajaban los proveedores; y verificaciones de antecedentes”. Los defensores de las libertades civiles sostienen que los neoyorquinos deberían haber sido conscientes del uso potencial de sus datos físicos para el desarrollo de tecnología de vigilancia por parte de una empresa privada. Las revelaciones se producen cuando un proyecto de ley del ayuntamiento que requeriría transparencia de la policía de Nueva York sobre las adquisiciones de vigilancia continúa languideciendo, debido, en parte, a la abierta oposición del alcalde de la ciudad de Nueva York, Bill de Blasio, y la policía de Nueva York. Una mirada poco común dentro del centro de seguridad del Departamento de Policía de Nueva York, donde los policías monitorean las cámaras de vigilancia, los sensores ambientales y los lectores de matrículas durante todo el día. El alcalde Michael Bloomberg y el comisionado de policía Ray Kelly anunciaron que las cámaras del metro también están siendo monitoreadas en el centro, oficialmente llamado Centro de Coordinación de Seguridad del Bajo Manhattan. Siguiendo el modelo del "Anillo de acero" de Londres, la policía de Nueva York abrió su centro de coordinación en 2008. Hoy, los policías monitorean las transmisiones de más de 1159 cámaras de circuito cerrado de televisión y el número aumenta a 3000 a medida que se expande el programa. (Foto de Timothy Fadek/Corbis a través de Getty Images) Dentro del centro de seguridad del Departamento de Policía de la Ciudad de Nueva York el 20 de septiembre de 2010, donde los policías monitorean las cámaras de vigilancia, los sensores ambientales y los lectores de matrículas durante todo el día. Foto: Timothy Fadek/Corbis vía Getty Images Tecnología de búsqueda de tono de piel, refinada en los neoyorquinos Los avances iniciales de IBM en la tecnología de reconocimiento de objetos se concibieron para tecnologías como los automóviles autónomos o el reconocimiento de imágenes en Internet, dijo Rick Kjeldsen, ex investigador de IBM. Pero después del 11 de septiembre, Kjeldsen y varios de sus colegas se dieron cuenta de que su programa era adecuado para la vigilancia antiterrorista. “Después del 11 de septiembre, las fuentes de financiamiento y el interés de los clientes realmente se dirigieron hacia la seguridad”, dijo Kjeldsen, quien dijo que trabajó en el programa de la policía de Nueva York desde aproximadamente 2009 hasta 2013. “Aunque ese no había sido nuestro enfoque hasta ese momento, punto, ahí es donde estaba la demanda”. El primer gran proyecto de videovigilancia urbana de IBM fue con el Departamento de Policía de Chicago y comenzó alrededor de 2005, según Kjeldsen. El departamento permitió que IBM experimentara con la tecnología en el centro de Chicago hasta 2013, pero la colaboración no se consideró una verdadera asociación comercial. “Chicago siempre fue conocido como, no es real, estos tipos no son un cliente real. Esto es una especie de desarrollo, una colaboración con Chicago”, dijo Kjeldsen. “Mientras que en Nueva York, estos muchachos eran un cliente. Y tenían expectativas en consecuencia”. El NYPD adquirió el software de análisis de video de IBM como parte del Domain Awareness System, un proyecto compartido del departamento de policía y Microsoft que centralizó una vasta red de sensores de vigilancia en el bajo y el centro de Manhattan, incluidas cámaras, lectores de matrículas y detectores de radiación. en un tablero unificado. IBM entró en escena como subcontratista de la subsidiaria de Microsoft, Vexcel, en 2007, como parte de un proyecto valorado en 60,7 millones de dólares durante seis años, según los documentos internos de IBM. En Nueva York, la amenaza terrorista “fue un punto de venta fácil”, recordó Jonathan Connell, un investigador de IBM que trabajó en la instalación inicial de análisis de video del Departamento de Policía de Nueva York. "Dices: 'Mira lo que hicieron los terroristas antes, podrían volver, así que danos algo de dinero y pondremos una cámara allí". Un extecnólogo de la policía de Nueva York que ayudó a diseñar la Iniciativa de Seguridad del Bajo Manhattan, que pidió hablar sobre antecedentes citando temores de represalias profesionales, confirmó el papel de IBM como un "proveedor estratégico". “En nuestra revisión de proveedores de análisis de video en ese momento, estaban muy por delante de todos los demás en mi estimación personal”, dijo el tecnólogo. Según los documentos de planificación internos de IBM, la policía de Nueva York comenzó a integrar el producto de vigilancia de IBM en marzo de 2010 para el Centro de Coordinación de Seguridad del Bajo Manhattan, un centro de mando antiterrorista inaugurado por el comisionado de policía Ray Kelly en 2008. En un recorrido de "60 minutos" por el centro de mando en En 2011, Jessica Tisch, entonces directora de política y planificación de contraterrorismo del Departamento de Policía de Nueva York, mostró el software en brillantes monitores de pantalla ancha, demostrando cómo podía obtener imágenes y videoclips de personas con camisas rojas. Tisch no mencionó la asociación con IBM. Durante el mandato de Kelly como comisionado de policía, la policía de Nueva York trabajó discretamente con IBM mientras la compañía probaba su tecnología de reconocimiento de objetos en un número selecto de cámaras de metro y policía de Nueva York, según documentos de IBM. “Realmente necesitábamos poder probar el algoritmo”, dijo Kjeldsen, quien explicó que el software necesitaría procesar cantidades masivas de diversas imágenes para aprender a ajustarse a las diferentes luces, sombras y otros factores ambientales en su vista “Estábamos casi usando el video para ambas cosas en ese momento, llevándolo al laboratorio para resolver problemas que teníamos o para experimentar con nueva tecnología”, dijo Kjeldsen. En ese momento, el departamento esperaba que el análisis de video mejoraría la capacidad de los analistas para identificar objetos y personas sospechosas en tiempo real en áreas sensibles, según Conor McCourt, un sargento antiterrorista retirado de la policía de Nueva York que dijo que usó el programa de IBM en sus etapas iniciales. “Digamos que tiene una bolsa sospechosa en el centro de Manhattan, como una persona que trabaja en el centro de comando”, dijo McCourt. "Podría ser que el análisis vio el objeto sentado allí durante cinco minutos y dice: 'Mira, hay un objeto sentado allí'". Los operadores podrían rebobinar el video o mirar otras cámaras cercanas, explicó, para obtener algunos posibilidades en cuanto a quién había dejado el objeto atrás. A lo largo de los años, dijeron los empleados de IBM, comenzaron a preocuparse más a medida que trabajaban con la policía de Nueva York para permitir que el programa identificara las características demográficas. Para 2012, según los documentos internos de IBM, los investigadores estaban probando el software de análisis de video en los cuerpos y rostros de los neoyorquinos, capturando y archivando sus datos físicos mientras caminaban en público o pasaban por los torniquetes del metro. Con estas imágenes de primer plano, IBM refinó su capacidad para buscar personas en la cámara de acuerdo con una variedad de características previamente no reveladas, como la edad, el sexo, el color del cabello (llamado "color de la cabeza"), la presencia de vello facial y la piel. tono. Los documentos hacen referencia a reuniones entre el personal de la policía de Nueva York e investigadores de IBM para revisar el desarrollo de búsquedas de identificación corporal realizadas en cámaras de torniquete del metro. “Ciertamente estábamos preocupados por dónde diablos iba esto”, recordó Kjeldsen. "Había un par de nosotros que siempre hablábamos de esto, ya sabes, 'si esto mejora, esto podría ser un problema'". Según la policía de Nueva York, el personal de contraterrorismo accedió a las funciones de búsqueda corporal de IBM solo con fines de evaluación solo eran accesibles para un puñado de personal antiterrorista. “Si bien se ofrecieron herramientas que presentaban capacidades de búsqueda raciales o de tono de piel a la policía de Nueva York, la policía de Nueva York las rechazó explícitamente”, dijo Donald, el portavoz de la policía de Nueva York. “Donde tales herramientas venían con una versión de prueba del producto, los evaluadores recibieron instrucciones solo para probar otras características (ropa, anteojos, etc.), pero no para probar o usar la función de tono de piel. Eso no se debe a que hubiera habido algo ilegal o incluso inapropiado en probar o usar estas herramientas para buscar en el área de un crimen una imagen de un sospechoso que coincidiera con una descripción dada por una víctima o un testigo. Fue específicamente para evitar incluso la sugerencia o apariencia de cualquier tipo de perfil racial tecnológico”. La policía de Nueva York dejó de usar el programa de análisis de video de IBM en 2016, dijo Donald. Donald reconoció que, en algún momento de 2016 o principios de 2017, IBM se acercó a la policía de Nueva York con una versión mejorada del programa de análisis de video que podía buscar personas por etnia. “El Departamento rechazó explícitamente ese producto”, dijo, “basado en la inclusión de ese nuevo parámetro de búsqueda”. En 2017, IBM lanzó Intelligent Video Analytics 2.0, un producto con capacidad de vigilancia de cámara corporal que permite a los usuarios detectar personas capturadas en la cámara por etiquetas de "etnicidad", como "asiático", "negro" y "blanco". Kjeldsen, el exinvestigador de IBM que ayudó a desarrollar el análisis de tono de piel de la empresa con acceso a la cámara de la policía de Nueva York, dijo que la afirmación del departamento de que la policía de Nueva York simplemente probó y rechazó las funciones de búsqueda corporal era engañosa. “No lo hubiéramos explorado si la policía de Nueva York nos hubiera dicho: 'No queremos hacer eso'”, dijo. “Ninguna empresa va a gastar dinero donde no hay interés del cliente”. Kjeldsen también agregó que la decisión de la policía de Nueva York de permitir que IBM acceda a sus cámaras fue crucial para el desarrollo de las funciones de búsqueda de tonos de piel, y señaló que durante ese período, la ciudad de Nueva York sirvió como el "área de prueba principal" de la empresa, lo que le proporcionó a la empresa una cantidad considerable de diversidad ambiental para el refinamiento del software. “Cuantas más situaciones diferentes pueda usar para desarrollar su software, mejor será”, dijo Kjeldsen. “Eso obviamente se refiere a las personas, los tonos de piel, lo que sea que pueda clasificar a las personas, y también se aplica a la ropa”. Desde entonces, la cooperación de la policía de Nueva York con IBM ha servido como un punto de venta para el producto en la Universidad Estatal de California, Northridge. Allí, la jefa de policía del campus, Anne Glavin, dijo que la empresa de tecnología IXP ayudó a venderle el producto de identificación de objetos de IBM al citar el trabajo de la policía de Nueva York con la empresa. “Hablaron sobre lo que ha hecho por la ciudad de Nueva York. IBM estuvo muy detrás de eso, por lo que obviamente fue de gran interés para nosotros”, dijo Glavin. Una mirada poco común dentro del centro de seguridad del Departamento de Policía de Nueva York, donde los policías monitorean las cámaras de vigilancia, los sensores ambientales y los lectores de matrículas durante todo el día. El alcalde Michael Bloomberg y el comisionado de policía Ray Kelly anunciaron que las cámaras del metro también están siendo monitoreadas en el centro, oficialmente llamado Centro de Coordinación de Seguridad del Bajo Manhattan. Siguiendo el modelo del "Anillo de acero" de Londres, la policía de Nueva York abrió su centro de coordinación en 2008. Hoy, los policías monitorean las transmisiones de más de 1159 cámaras de circuito cerrado de televisión y el número aumenta a 3000 a medida que se expande el programa. (Foto de Timothy Fadek/Corbis a través de Getty Images) Un monitor que muestra imágenes de vigilancia de una calle de Nueva York el 20 de septiembre de 2010, vistas dentro del centro de seguridad del Departamento de Policía de la Ciudad de Nueva York en el bajo Manhattan. Foto: Timothy Fadek/Corbis vía Getty Images Vigilancia cotidiana, preocupaciones sobre libertades civiles El programa de análisis de video NYPD-IBM se concibió inicialmente como una herramienta antiterrorista para usar en el centro y el bajo Manhattan, según Kjeldsen. Sin embargo, el programa se integró durante su fase de prueba en docenas de cámaras en toda la ciudad. Según el extecnólogo de la policía de Nueva York, podría haberse integrado en las investigaciones criminales cotidianas. “Todas las oficinas del departamento podrían utilizarlo”, dijo el extecnólogo, lo que podría ayudar a los detectives a investigar todo, desde delitos sexuales hasta casos de fraude. Kjeldsen habló de la colocación de cámaras en las entradas de los edificios y cerca de las entradas de los estacionamientos para monitorear a los merodeadores sospechosos y las bolsas abandonadas. Donald, el portavoz de la policía de Nueva York, dijo que el acceso al programa estaba limitado a un pequeño número de funcionarios antiterroristas y agregó: "No tenemos conocimiento de ningún caso en el que el análisis de video haya sido un factor en un arresto o enjuiciamiento". La policía del campus de la Universidad Estatal de California, Northridge, que adoptó el software de IBM, dijo que las funciones de búsqueda corporal han sido útiles en las investigaciones criminales. Cuando se le preguntó si los agentes habían implementado la capacidad del software para filtrar imágenes en busca del color de la ropa, el color del cabello y el tono de la piel de los sospechosos, el capitán Scott VanScoy de la Universidad Estatal de California, Northridge, respondió afirmativamente, transmitiendo una historia sobre cómo los detectives universitarios pudieron usar tales características para filtrar rápidamente a través de sus cámaras y encontrar a dos sospechosos en un caso de agresión sexual. Únase a nuestro boletín Informes originales. Periodismo sin miedo. Entregado a usted. Estoy en "Pudimos retomar dónde estaban en diferentes lugares de esa misma noche y armar una historia, por lo que nos ahorra un montón de tiempo", dijo Vanscoy. “Para cuando hicimos las entrevistas, ya conocíamos la historia y ellos no sabían que nosotros la conocíamos”. Glavin, el jefe de la policía del campus, agregó que las cámaras de vigilancia que utilizan el software de IBM se colocaron estratégicamente en todo el campus para capturar posibles amenazas a la seguridad, como robos de automóviles o protestas estudiantiles. “Así que trazamos un circuito cerrado de televisión en esa área y una ruta de viaje a nuestro edificio administrativo principal, que a veces es donde la gente camina para dar a conocer sus preocupaciones y les gusta pararse afuera de ese edificio”, dijo Glavin. “No es que seamos un gran campus de protesta, ciertamente no somos un Berkeley, pero tenía sentido comenzar a construir el sistema de cámaras exterior allí”. Los defensores de las libertades civiles dicen que están alarmados por el secretismo del Departamento de Policía de Nueva York para ayudar a desarrollar un programa con la capacidad potencial de generar perfiles raciales masivos. La tecnología de identificación que construyó IBM podría ser mal utilizada fácilmente después de un gran ataque terrorista, argumentó Rachel Levinson-Waldman, asesora principal del Programa de Libertad y Seguridad Nacional del Centro Brennan. “Ya sea que el perpetrador sea musulmán o no, la presunción es a menudo que él o ella lo es”, dijo. “Es fácil imaginar que las fuerzas del orden lleguen a una conclusión sobre la identidad étnica y religiosa de un sospechoso, vayan rápidamente a la base de datos de videos almacenados y busquen a cualquiera que cumpla con esa descripción física, y luego llamen a las personas para interrogarlas sobre eso. base." IBM no comentó sobre las preguntas sobre el uso potencial de su software para la elaboración de perfiles raciales. Sin embargo, la empresa envió un comentario a The Intercept señalando que fue “una de las primeras empresas del mundo en adoptar un conjunto de principios de confianza y transparencia para las nuevas tecnologías, incluidos los sistemas de IA”. La declaración continuó explicando que IBM está "poniendo a disposición del público a otras empresas un conjunto de datos de anotaciones para más de un millón de imágenes para ayudar a resolver uno de los mayores problemas en el análisis facial: la falta de datos diversos para entrenar sistemas de IA". Pocas leyes rigen claramente el reconocimiento de objetos o las otras formas de inteligencia artificial incorporadas en la videovigilancia, según Clare Garvie, becaria de derecho del Centro de Privacidad y Tecnología de Georgetown Law. “Cualquier forma de rastreo de ubicación en tiempo real puede generar una investigación de la Cuarta Enmienda”, dijo Garvie, citando un caso de la Corte Suprema de 2012, Estados Unidos v. Jones, que involucró a la policía monitoreando el camino de un automóvil sin una orden judicial y resultó en que cinco jueces sugirieron que las personas podrían tener una expectativa razonable de privacidad en sus movimientos públicos. Además, dijo, cualquier forma de “vigilancia basada en la identidad” puede comprometer el derecho de las personas a hablar en público y asociarse de forma anónima. Garvie señaló que, si bien la tecnología de reconocimiento facial ha sido fuertemente criticada por el riesgo de coincidencias falsas, ese riesgo es aún mayor para un sistema de análisis que "rastrea a una persona por otras características, como el color de su ropa y su altura", que no son únicas. características. El extecnólogo de la policía de Nueva York reconoció que los sistemas de análisis de video pueden cometer errores y señaló un estudio en el que el software tuvo problemas para caracterizar a las personas de color: "Nunca es 100 por ciento". Pero la identificación de posibles sospechosos por parte del programa fue, señaló, solo el primer paso en una cadena de eventos que depende en gran medida de la experiencia humana. “Los operadores de tecnología entregan los datos al detective”, dijo el tecnólogo. “Usas todas tus bases de datos para buscar posibles sospechosos y se las das a un testigo para que las mire. … Se trata de encontrar una manera de acortar el tiempo para atrapar a las personas malas”. Los programas de identificación de objetos también podrían arrastrar injustamente a las personas a la sospecha policial solo por sus características físicas genéricas, según Jerome Greco, abogado forense digital de Legal Aid Society, la organización de defensores públicos más grande de Nueva York. “Me imagino un escenario en el que se ingresa al sistema una descripción vaga, como un joven negro con una sudadera con capucha, y el algoritmo no revelado del software identifica a una persona en un video que camina a unas pocas cuadras de la escena de un incidente”, dijo Greco. . “La policía encuentra una excusa para detenerlo y, después de detenerlo, un oficial dice que el individuo coincide con una descripción del incidente anterior”. De repente, continuó Greco, "un hombre que estaba caminando por su propio vecindario" podría ser acusado de un delito grave sin que él o su abogado supieran "que todo surgió de un programa secreto que no puede cuestionar". Si bien la tecnología podría usarse para el trabajo adecuado de aplicación de la ley, Kjeldsen dijo que lo que más le molestaba de su proyecto era el secreto que él y sus colegas tenían que mantener. “Ciertamente no podíamos hablar sobre qué cámaras estábamos usando, qué capacidades estábamos poniendo en las cámaras”, dijo Kjeldsen. “Querían controlar la percepción pública y el conocimiento de LMSI”, la Iniciativa de Seguridad del Bajo Manhattan, “así que siempre tuvimos que ser cautelosos incluso con esa parte, en la que estamos involucrados, con quiénes estábamos involucrados y qué estaban haciendo." (IBM no respondió a una pregunta sobre instruir a sus empleados para que no hablen públicamente sobre su trabajo con la policía de Nueva York). La forma en que la policía de Nueva York ayudó a IBM a desarrollar esta tecnología sin el consentimiento del público sienta un precedente peligroso, argumentó Kjeldsen. “¿Hay ciertas actividades que no son asunto de nadie, pase lo que pase?” preguntó. “¿Hay ciertos lugares en los límites de los espacios públicos que tienen una expectativa de privacidad? Y luego, ¿cómo construimos herramientas para hacer cumplir eso? Ahí es donde necesitamos la conversación. Es exactamente por eso que el conocimiento de esto debería estar más disponible, para que podamos resolverlo”.