Casi el 40 por ciento de los estadounidenses confían en el consejo médico de AI Chatbots
Como AI La tecnología se vuelve más integrada en todos los aspectos de la vida diaria, las personas se han vuelto cada vez más cómodas pidiendo ayuda a los chatbots de modelos de idiomas grandes con todo tipo de preguntas, incluidas, al parecer, en asuntos de vida y muerte.
En nueva encuesta De los 2,000 estadounidenses encargados de la consultoría de investigación en todo el censo Chatgpt en navegar decisiones de atención médica. Ese sentimiento superó los sentimientos neutrales sobre si los LLM pueden ser útiles con consultas médicas (expresadas por el 31 por ciento de los encuestados), así como la desconfianza directa de los chatbots en estos asuntos (30 por ciento).
Estos datos se producen solo unas semanas después de que los investigadores publicaron un estudiar mostrando que los modelos de IA de empresas incluyen OpadaiAntrópico, profundo, GoogleY Xai ha dejado de incluir descargo de responsabilidad sobre seguir sus consejos médicos, que alguna vez fueron estándar en toda la industria. Mientras que el 26 por ciento de las respuestas de chatbot a las consultas de salud en 2022 contenían algún tipo de advertencia sobre que el LLM no era médico, menos del uno por ciento de las respuestas en 2025 tuvieron tal recordatorio. En los casos en que los usuarios subieron imágenes médicas para que los bots analicen, poco más del uno por ciento de las respuestas ahora incluyen una advertencia sobre seguir el consejo médico del BOT, por debajo del 20 por ciento hace tres años.
«Hay muchos titulares que afirman que la IA es mejor que los médicos», dijo Roxana Daneshjou, profesora asistente de ciencias de datos biomédicos en la Universidad de Stanford y coautora de ese documento, al Revisión de la tecnología del MIT sobre sus hallazgos. «Los pacientes pueden estar confundidos por los mensajes que están viendo en los medios, y los descargo de responsabilidad son un recordatorio de que estos modelos no están destinados a la atención médica».
Esta falta de contexto en los registros de chat sobre todo, desde síntomas de salud hasta posibles diagnósticos y efectos secundarios farmacéuticos puede estar contribuyendo a la confianza en los chatbots como el equivalente virtual de expertos médicos calificados. Pero la encuesta en todo el censo también produjo indicaciones de que la insatisfacción o las preocupaciones sobre el estado de la atención médica en EE. UU. Podría ser un factor que impulsa la dependencia de la IA para la información sobre el tratamiento. Los datos mostraron que el 31 por ciento de los estadounidenses, y el 37 por ciento de las mujeres, están utilizando chatbots para preparar preguntas para las visitas al médico, mientras que el 23 por ciento busca evitar los gastos médicos. (Los hombres tienen algo más probable que dan esta razón, con el 27 por ciento). En general, el 20 por ciento de los encuestados dijo que habían recurrido a LLM para una segunda opinión, mientras que el 17 por ciento cree que son útiles para evitar el sesgo o el tratamiento injusto en el sistema de salud. (Irónicamente, se ha demostrado que los programas de IA mismos se ajustan a prejuicios étnicos y de géneroe incluso replicará desigualdades de atención médica existentes basado en suposiciones infundadas sobre un paciente basado en su raza).
Censuswide descubrió que es más probable que los hombres tengan confianza en el asesoramiento médico de un bot: el 48 por ciento dijo que esta era una fuente confiable de información de salud, en comparación con el 31 por ciento de las mujeres. Los usuarios de mediana edad también confiaban más, con el 52 por ciento de los adultos de 45 a 54 años diciendo que podían contar con modelos de IA para obtener ayuda con preguntas médicas, mientras que los datos demográficos mayores y más jóvenes estaban algo menos seguros de la capacidad de la tecnología como herramienta de salud personal.
Obviamente, los chatbots no pueden examinar a un individuo como lo haría un médico, y pueden hacer recomendaciones peligrosas basadas en conclusiones inexactas. Sin embargo, como otro estudio reciente Encontrado, las personas califican las respuestas generadas por IA de baja precisión sobre su situación médica tan altamente como las escritas por médicos reales. Los participantes en el estudio también «indicaron una alta tendencia a seguir los consejos médicos potencialmente dañinos y buscar incorrectamente la atención médica innecesaria como resultado de la respuesta proporcionada» por los chatbots, escribieron los autores.
Además, los LLM no cumplen con la Ley de Portabilidad y Responsabilidad del Seguro de Salud (HIPAA), y no están diseñados para manejar datos de salud confidenciales. Cargar imágenes médicas, por ejemplo, podría poner a los usuarios en riesgo en caso de una violación de la privacidad.
Sin embargo, estas preocupaciones aparentemente no han disuadido a muchos estadounidenses de tratar el chatgpt y similares como médicos y terapeutas que están de guardia 24/7. Esa conveniencia, diferentes obstáculos para el tratamiento en los Estados Unidos, y la visión predeterminada de los chatbots como expertos autorizados en cualquier tema, particularmente cuando no le dicen que no lo son, sin duda han contribuido a que las personas sean engañadas por bots sobre su bienestar físico y mental. A menos que la cultura normalice un escepticismo más profundo hacia la IA como fuente de conocimiento infinito, esta es una enfermedad social que puede empeorar.
