Transformación tecnológica, desafíos regulatorios y nuevas responsabilidades profesionales: la irrupción de la inteligencia artificial en el mercado asegurador obliga a los productores asesores de seguros a replantear su rol, sus obligaciones y los límites de una herramienta que no decide ni exime de responsabilidad. Así lo explica Fernando McLoughlin, abogado y docente del Centro Federal de Capacitación de la Federación de Asociaciones de Productores Asesores de la Argentina (FAPASA), en la siguiente columna escrita para Asegurando Digital.

Hace sólo unos años atrás, era imposible vender seguros, cobrar las primas y gestionar los siniestros si no se contaba con lugares físicos donde los asegurados interactuaban con sus aseguradores, representantes físicos del asegurador (empleados, agentes institorios o productores asesores) y mucho papel. Ese tiempo quedó muy atrás y ya no volverá. El avance tecnológico de los últimos años permitió a las aseguradoras vender por internet y ofrecer aplicaciones que permiten a sus clientes acceder directamente a la aseguradora no solo para obtener información sobre su contrato vigente mediante la póliza en formato digital, sino también a solicitar modificaciones a su contrato y gestionar siniestros.

Es un gran avance en cuanto a la comunicación entre las partes del contrato en cuanto a facilitar el cumplimiento de las obligaciones asumidas por ambos en el contrato. Pero también representa un desafío para la aseguradora en cuanto a la defensa de los derechos de los más simples asegurados amparados por la legislación de protección al consumidor y para el productor asesor de seguros en cuanto al cumplimiento de sus obligaciones profesionales que surgen de la ley 22.400 y las posibles responsabilidades por su incumplimiento desde que, en este nuevo escenario de interacción a través de aplicaciones, la comunicación entre el asegurador y el asegurado no pasa necesariamente siempre a través de su intermediación como era hace muchos años atrás en lo que podemos llamar la “era de las pólizas en papel”.

Nuevo contexto

En aquella era del papel, las consultas sobre aspectos relacionados con la cobertura del asegurado eran respondidas por el productor asesor. En algunos casos se requería confirmar alguna interpretación con el asegurador. Como consecuencia del avance de la información por internet, cada vez son más los asegurados que, en lugar de consultar a su productor, optan por consultar alguna herramienta de inteligencia artificial y confiar en su respuesta para luego decidir modificar la póliza o actuar al momento de denunciar un siniestro.

Muchas veces es el propio productor asesor el que recurre a la IA para buscar una respuesta que ofrecerle a su cliente y eso pone al propio productor ante el interesante desafío de entender cómo cumplir de la mejor manera posible con sus obligaciones en este nuevo entorno tecnológico, pero bajo las mismas leyes que ya regían en la era de las pólizas en papel.

La ley 22.400 no fue modificada recientemente como para incluir referencia alguna a aplicaciones en teléfonos celulares y mucho menos aún para encontrar referencia alguna a Google o a la inteligencia artificial.

La IA en la industria del seguro

Vivimos, y viviremos, en el tiempo de la inteligencia artificial. Lo hará el productor asesor y también sus clientes. La IA está cambiando muchas cosas. La IA es capaz de aprender, razonar, percibir, resolver problemas y entender el lenguaje, utilizando algoritmos y grandes cantidades de datos para simular capacidades cognitivas. Es capaz de reconocer patrones y tomar decisiones o actuar de forma autónoma. Si bien su capacidad de realizar millones de operaciones permitió un gran avance de la ciencia, todavía no supera -a mi entender- a las mentes humanas más brillantes de las que la IA está aprendiendo día a día.

A diferencia de la inteligencia humana del productor asesor que lleva muchos años haciéndolo, la IA tiene aún un largo camino que recorrer en el perfeccionamiento del pensamiento crítico, el autoconocimiento, el pensamiento creativo, la empatía, la habilidad de mirar a los asegurados y encontrar dónde están los problemas reales que como productor se pueden resolver y la capacidad de resolver problemas. En pocas palabras, el productor conoce a su cliente y entiende que no todas las decisiones que toma su cliente son lógicas y que el factor emocional puede ser muy importante al momento de lograr la satisfacción de su cliente.

No se trata de una competencia entre la inteligencia humana del productor asesor y las nuevas herramientas de inteligencia artificial, sino de su complementación de modo tal que se aproveche lo mejor de cada una de ellas. El futuro es de aquellos productores que, profesionalmente, hagan un uso responsable y eficiente de la inteligencia artificial para el logro de su objetivo como productores. Para ello hay que entender que el productor tiene obligaciones que cumplir y, aún cuando se valga de la IA, deberá cumplirlas.

La IA en todas las profesiones humanas

Todas las actividades profesionales están analizando el uso de la IA. En algunas de esas actividades profesionales, una equivocada utilización de esta tecnología puede poner vidas en riesgo. Se pueden encontrar advertencias sobre este tema en ámbitos profesionales tan diversos que van desde los distintos campos de la ingeniería hasta la investigación científica y la medicina, siendo la medicina, como bien sabemos, uno de los campos más críticos para la mala praxis profesional.

En la medicina, la utilización de una herramienta de IA hace que los profesionales de la salud dejen de ser una fuente única de conocimiento y análisis de los datos, y pasen a ser responsables de la interpretación y validación de los resultados de los algoritmos de IA, teniendo en cuenta el contexto social, clínico y personal del paciente. La IA ayuda y asiste, pero la responsabilidad final es la del médico tratante.

Lo mismo pasa con las demás profesiones. La IA no es la responsable final dado que en muchos casos puede equivocarse (“alucinar”) y esta circunstancia está advertida, o debería ser advertida, por el proveedor del servicio de IA.

Las distintas asociaciones profesionales que nuclean a las diferentes profesiones ya están trabajando a los efectos de impulsar el desarrollo profesional de sus colegiados o asociados mediante la capacitación sobre el uso eficiente de estas herramientas, al tiempo que advierten sobre el uso responsable de la IA.

Uso poco profesional de la IA

Pero, como todo cambio, tiene en sus primeros tiempos el problema de no conocer bien los riesgos de la propia herramienta de la que el profesional se ha de valer. La profesión legal es un interesante caso.

En julio del año pasado, se publicó un clarificador documento sobre el riesgo de la mala utilización de la IA por parte de la Unidad de Innovación y Transformación Digital del Colegio Público de Abogados de la Capital Federal (Ciudad Autónoma de Buenos Aires). Este documento tiene por objeto aclarar que la IA no exime de responsabilidad al profesional que la utiliza. No importa lo bien redactado que se vea el escrito generado por la IA: el abogado que firma al pie del documento sigue siendo responsable de lo que presenta ante los juzgados y “el uso de sistemas de IA, incluido el método de IA empleado, debe ser justificado, adecuado al contexto y no exceder de lo necesario, y proporcionado para lograr los objetivos propuestos”.

El problema se generó cuando abogados, y en algunos casos también magistrados, comenzaron a utilizar herramientas de IA y no tomaron en cuenta el fenómeno de las “alucinaciones” de las herramientas de IA generativa, que tienen la capacidad de crear contenido novedoso, incluyendo citas jurisprudenciales o fallos que resultaron ser inexistentes o falsos. Confiando en la IA, el abogado fundó su apelación casi exclusivamente en la cita de muchos fallos no verificables y que resultaron inexistentes.

Informó la Cámara de Apelaciones que “tras una búsqueda exhaustiva en la Biblioteca del Poder Judicial y en los registros del Superior Tribunal de Justicia, ninguna de las citas pudo ser verificada”. Por eso solicitó a los letrados que indicaran las fuentes de las citas textuales atribuidas a distintos tribunales y, obviamente, los abogados no pudieron hacerlo pues no habían leído ninguno de los fallos que citaban. Esto ya pasó en muchos países del mundo y está dando lugar a sanciones de los abogados y jueces que hacen un uso indebido de la IA. Las decisiones las toma el ser humano. La IA sólo sugiere, propone o redacta, pero no decide. La IA no reemplaza el análisis jurídico del abogado. Ayuda, pero no interpreta ni aplica normas.

¿Es correcto que el productor asesor use la IA?

Ya dijimos que es muy esperable que los asegurados consulten a la IA en temas relacionados con sus pólizas, el derecho que les asiste según la Ley de Seguros y cómo actuar ante la ocurrencia de un siniestro que afecte a un riesgo cubierto por la póliza. Pero el productor asesor no puede tener control sobre lo que la IA le informe directamente a su cliente si la búsqueda en la IA la hace el propio asegurado. No hay manera que pueda verificar si la respuesta de la IA fue correcta. Pero quizás el que consulte a la IA sea el propio productor.

No debería haber ningún problema en que un productor asesor utilice la inteligencia artificial para buscar una respuesta a sus clientes. Es una herramienta más que está disponible, pero su función como PAS, y sus obligaciones, son indelegables, aunque se apoye en la herramienta tecnológica de IA que le resulte más conveniente.

Para ser eficiente en el uso de la IA hay que entender cómo funciona, cuáles son sus limitaciones y riesgos, y utilizarla bien. Lo más importante al momento de utilizar una de estas herramientas, sea cual sea, es entender cómo funciona. La respuesta de la IA es predictiva y estadística. Quizás, luego de consultarla, la IA no te devuelve la verdad, sino que te devuelve algo que forma en base a estadística.

El productor debe verificar la confiabilidad de la información que le aporta la IA recordando que, como intermediario, su fuente más confiable sobre los beneficios de un producto de seguros determinado y la interpretación de las cláusulas de la correspondiente póliza es la propia aseguradora que redactó el texto del contrato y que, eventualmente, será parte en esos contratos de seguros.

Obligaciones del productor

La ley 22.400, en sus artículos 10 y 12, establece los deberes y funciones de los productores asesores. Los deberes del productor con relación al asegurado resultan predominantemente en obligaciones de hacer y debe desempeñarse conforme a las disposiciones legales y a los principios técnicos aplicables a la operación en la cual intervienen y actuar con diligencia y buena fe.

A los efectos de este pequeño análisis, nos referiremos mayormente a las obligaciones del productor respecto del asegurado. Esto figura en el artículo 10, donde en su punto d) cuando refiere a “ilustrar al asegurado o interesado en forma detallada y exacta sobre las cláusulas del contrato, su interpretación y extensión y verificar que la póliza contenga las estipulaciones y condiciones bajo las cuales el asegurado ha decidido cubrir el riesgo” y el punto h) cuando hace lo similar con respecto a “asesorar al asegurado durante la vigencia del contrato acerca de sus derechos, cargas y obligaciones, en particular con relación a los siniestros”. Esto, además de considerar la obligación del productor buscar para su cliente una aseguradora que se encuentre en una situación económica y financiera que le permita indemnizar, en tiempo y forma, los siniestros que puedan ocurrir.

Omisión de asesoramiento sobre la situación económica de la aseguradora

No sería nada raro que un productor asesor le pida a la IA que haga un informe sobre la situación económica de una aseguradora. Quizás hasta se le pida a la IA que opine sobre la conveniencia de asegurar un bien en dicha aseguradora.

Recientes fallos sobre la responsabilidad del productor ante problemas ocasionados a los asegurados que contrataron sus seguros con aseguradoras que no estaban en una situación económica y financiera acorde a las obligaciones que estaban asumiendo con sus asegurados son un claro llamado de atención para los productores, que como intermediarios, colaboraron en la contratación de dichos seguros.

La Superintendencia de Seguros de la Nación (SSN) publica periódicamente información sobre la situación de las aseguradoras que están autorizadas para operar en la República Argentina y dicha información esta fácilmente accesible a través de internet. Para facilitar el entendimiento de esa información, la Superintendencia la presenta a través de indicadores. El uso de dichos indicadores es ampliamente conocido por los productores desde que fueron objeto de frecuentes capacitaciones a través del Programa de Capacitación Continua de su actividad de intermediación.

Utilizar la IA para informar sobre la situación económica de una determinada aseguradora no es objetable. Dándole las instrucciones correctas, la IA puede generar un informe interesante para el asegurado. Después de todo, la IA puede acceder a enormes cantidades de información y procesarlas a una velocidad que resultaría imposible para un cerebro humano.

Pero desde ya que, a los efectos de evitar causar un daño al asegurado y tener que responder legalmente por ello, el productor asesor debe leer detalladamente el informe generado por la IA antes de enviarlo al asegurado, verificar que la información que utilizó la IA para hacer el informe es correcta y que la manera que presenta la información referente a la situación de una determinada aseguradora es profesional y sin estar influenciada por algún sesgo que no sea acorde a lo esperado por parte de un productor imparcial. Los referidos indicadores producidos por la SSN son una importante herramienta para guiar a la IA y luego para revisar lo que la IA ha producido.

Revisar la póliza

Es de la esencia de la responsabilidad del productor asesor lo previsto en la ley respecto de “ilustrar al asegurado o interesado en forma detallada y exacta sobre las cláusulas del contrato, su interpretación y extensión y verificar que la póliza contenga las estipulaciones y condiciones bajo las cuales el asegurado ha decidido cubrir el riesgo”. Muchas veces se le pide al productor que resuma las cláusulas más importantes de la póliza o que haga un informe sobre las diferencias entre dos pólizas de seguro. También podemos incluir dentro de esta obligación explicar la importancia de que la suma asegurada sea la correcta y que no estemos ante una situación de infraseguro.

No habría ningún problema en que la IA ayude al productor asesor en esta función. Para ello es fundamental la instrucción, o pregunta, que se ingresa en la IA para que el sistema, en base a dicha instrucción genere respuestas. Se conoce como “prompt”. En términos simples, es como darle una “pista” o indicar el contexto y los detalles a la IA para que entienda lo que quiere y le dé la mejor respuesta posible. Un prompt es como un cartel de tránsito: le indica a la IA hacia dónde ir. Es la medida de la asertividad de la respuesta.

Lo recomendable es que el productor sea claro y directo. Al ingresar el prompt o instrucción, ser lo más explícito y claro posible brindando además el contexto. Explicar detalladamente el caso, el destinatario, el objetivo. Pedir que la IA utilice un tono, y estilo, comercial, informal, explicativo y breve. Usar ejemplos y palabras clave que puedan ayudar a la IA a enfocarse. Cuanto más específico sea el prompt, mejor será la respuesta que se obtendrá de la IA.

El productor asesor debe entender que trabajar con la IA es un proceso interactivo. Debe revisar la primera respuesta que le de la IA y corregir las veces que sea necesario el informe emanado. El aprendizaje de la IA y su utilidad específica para el caso solicitado se da por ensayo y error. Si la IA no le respondió lo que buscaba, no debe preocuparse y puede continuar preguntándole cuantas veces quiera. Es importante para ello que le indique a la IA claramente cómo desea que efectúe la investigación; por ejemplo, pidiéndole que actúe el trabajo como “un productor asesor de seguros que debe asesorar al asegurado”, por ejemplo.

También debe indicarle el formato y extensión. Si el productor le solicita resúmenes de pólizas, tablas comparativas entre coberturas o aclarándole la longitud del texto deseado, indicando el mínimo de palabras que desea. Debe evitar las ambigüedades, contradicciones e imprecisiones en sus instrucciones a la IA. En caso de que el prompt contenga este tipo de deficiencias, el resultado será la obtención de resultados genéricos o vagos, en lugar del resultado a medida que busca el productor. Una limitación de la IA es que responde en función de lo que se le dice, sin distinguir entre afirmaciones verdaderas y falsas, a menos que se le pida expresamente que cuestione o verifique.

Si el productor usa una IA conectada a internet, que es lo más probable, debe exigir referencias y siempre verificar el resultado obtenido en los sitios referenciados ya que puede haber errores o alucinaciones.

Asesorar sobre el contenido del contrato

El productor asesor conoce por experiencia que es escasa la paciencia que tienen los asegurados para escuchar de su boca la explicación de las cláusulas incluidas en el contrato. La evolución de la IA no cambiará esto. Pero la ley misma le indica al productor como administrar el escaso tiempo que generalmente le da el cliente para explicar el contenido de la póliza al decir “asesorar al asegurado durante la vigencia del contrato acerca de sus derechos, cargas y obligaciones, en particular con relación a los siniestros”. No es necesario explicarle a un asegurado todas las cláusulas del contrato, sino aquellas en las que el incumplimiento de alguna carga u obligación por parte del asegurado ponga en riesgo el derecho del asegurado de cobrar un siniestro y sólo cobrarlo parcialmente por un infraseguro.

Si el productor va a valerse de una IA para mandarle instrucciones a su cliente, deberá utilizar los mismos criterios que detallamos en el párrafo anterior respecto a los prompts. Debe indicarle claramente lo que quiere, darle la mayor cantidad de datos posibles, ver los resultados obtenidos de esa instrucción y hacerle todas las correcciones necesarias hasta que llegue al resultado que necesita para ayudar al asegurado.

Uso responsable de la IA

La IA es sólo un instrumento. La IA no exime de responsabilidad profesional a aquellos que se valen de ella. El productor sigue siendo el responsable último del contenido que presenta a su cliente, sea o no generado por IA. La IA no decide y sólo el criterio humano es el que evalúa y adopta la decisión final, conforme a la ley, la ética y el sano criterio comercial. La IA nunca reemplaza el análisis del productor, pues si bien puede considerarse una ayuda de importancia para la profesión del productor, es incapaz de interpretar todo lo que determina una larga relación del asegurador con el asegurado por sí sola y, mucho menos, determinar lo más comercialmente conveniente para mantener dicha relación.

Para que pueda usar la IA para su mejor provecho, sólo debe seguir trabajando con método. Debe releer, y revisar, cada texto generado por la IA para identificar posibles errores o inconsistencias. Para ello, debe corroborar siempre la exactitud de los datos informados por la IA. Recordemos que sus propios creadores afirman que existe la posibilidad de que la IA pueda alucinar y crear referencias falsas.

La IA también puede reflejar prejuicios de los datos con los que fue entrenada durante su proceso de desarrollo y autoaprendizaje. No obstante, comprendiendo la naturaleza de esta tecnología, el peligro principal no es la presencia de este sesgo, sino la falsa sensación de neutralidad que puede inducir, evitando así una posterior evaluación crítica del contenido producido. La discriminación que pasa desapercibida es el verdadero riesgo inherente a los sesgos en estos algoritmos. Más aun si se le consulta sobre la solvencia de determinada aseguradora y la conveniencia de contratar los seguros con esa aseguradora.

El productor no debe usar nada que venga de una IA si no puede explicar cómo la IA llegó a alguna conclusión. La dependencia ciega a cualquier cosa es muy peligrosa, y más aún a la IA por lo que es muy recomendable contrastar la información provista por la IA con fuentes confiables (preferentemente la misma aseguradora y la información proveniente de la SSN), y usar finalmente el propio criterio profesional del productor.

La IA siempre parece segura y suena muy confiada y convincente. Pero puede estar equivocada. La IA no “busca” información como un motor de búsqueda tradicional, sino que genera texto basado en patrones aprendidos. Solo genera texto coherente y puede fallar. No hace lógica, ni calcula como lo haría un ser humano. Pero es útil y rápida. Por lo que el productor no debería dejar de sacar provecho de ella.

 

Fuente: Todo Riesgo

Enlace: https://todoriesgo.com.ar/uso-inteligencia-artificial-productores/