La IA en la empresa: 7 reglas para que el jefe conserve el timón (sobre Chefgeflüster #42)

Un empleado copia una oferta, con la dirección del cliente incluida, en la versión gratuita de ChatGPT porque así es más rápido. El jefe nunca se entera. Justo ahí empieza el riesgo, y siete reglas sencillas lo contienen.

Con ellas usa usted la IA sin ceder el control. Cada regla termina con pasos que puede dar esta misma semana. El motivo es el episodio #42 de «Chefgeflüster by Lars und Silvio»: Alexander Weipprecht, gerente de Provimedia, fue invitado allí, se puede escuchar en Spotify.

Las reglas de un vistazo

1. Ningún dato de clientes en la versión gratuita de ChatGPT.
2. Revise las respuestas de la IA antes de que lleguen al cliente.
3. Cuente con incidentes en el proveedor y esté preparado.
4. Fomente la alfabetización en IA de su equipo y documéntelo.
5. Describa los procesos antes de automatizarlos.
6. Controle si las búsquedas con IA encuentran su sitio web.
7. Introduzca una IA telefónica solo con reglas de juego claras.

Regla 1: ¿por qué los datos de clientes no deben ir a la versión gratuita de ChatGPT?

Una cuenta gratuita privada no es un lugar para datos personales de clientes si su empresa no tiene un contrato con el proveedor. Esto vale tanto para la oferta con dirección como para la medición con nombres.

• Quien encarga a un proveedor el tratamiento de datos personales necesita, según el art. 28 del RGPD, un contrato de encargo del tratamiento.
• OpenAI ofrece para ChatGPT Business, Enterprise y la API un Data Processing Addendum. Para una cuenta gratuita privada no existe tal contrato con su empresa.
• En los servicios para particulares, OpenAI puede utilizar los contenidos para el entrenamiento, según el artículo de ayuda. Se puede desactivar en los controles de datos («Improve the model for everyone»).

Qué significa esto para su empresa:

• Establezca por escrito qué accesos a la IA están permitidos.
• Enumere qué datos no deben ir nunca a una cuenta gratuita, por ejemplo nombres, direcciones y encargos de sus clientes.
• Haga revisar de antemano una oferta comercial desde el punto de vista de la protección de datos.

Regla 2: ¿por qué debo revisar las respuestas de la IA?

Porque el entrenamiento y la evaluación premian el adivinar. El estudio de OpenAI «Why Language Models Hallucinate» (Kalai, Nachum, Vempala, Zhang, septiembre de 2025) lo compara con un examen tipo test: una respuesta en blanco da seguro cero puntos, una respuesta adivinada al menos una posibilidad.

La entrada que lo acompaña cita un ejemplo de una prueba de conocimientos. Un modelo antiguo de OpenAI se abstuvo en el 1 % de los casos y se equivocó en el 75 %. Uno más reciente se abstuvo en el 52 % de los casos y se equivocó en el 26 %.

El modelo más reciente dice con más frecuencia «no lo sé» y se equivoca menos. Una IA que nunca duda no es buena señal. Quien deje que la IA redacte la respuesta a una reclamación por defectos no debería, por tanto, enviarla nunca sin revisarla.

Qué significa esto para su empresa:

• Haga que una persona revise los resultados de la IA que afecten a clientes o contratos.
• Exija una fuente en las afirmaciones factuales y ábrala usted mismo.
• Guarde su cálculo de precios y materiales como un documento aparte y deje que la IA responda a partir de él.

Regla 3: ¿qué ocurre si algo sale mal en el proveedor de IA?

Los datos pueden hacerse visibles para terceros, incluso sin un ataque de hackers. El incidente del 20.03.2023 no fue un ataque, sino un error de software.

Durante una ventana de unas nueve horas, en el 1,2 % de los suscriptores de ChatGPT Plus activos entonces los datos pudieron ser visibles para otros usuarios: nombre, correo electrónico, dirección de pago, los últimos cuatro dígitos de la tarjeta de crédito y la fecha de caducidad. Los números de tarjeta completos nunca se vieron afectados.

Qué significa esto para su empresa:

• Anote quién examina y notifica en su empresa una brecha de datos.
• Lleve una lista de los servicios de IA que utiliza su empresa, para saber si le afecta cuando el proveedor emita un aviso.

Regla 4: ¿qué exige el AI Act en materia de alfabetización en IA?

Exige que las empresas fomenten la alfabetización en IA de su personal. No existe un certificado prescrito por ley. La situación:

• El art. 4 del Reglamento (UE) 2024/1689 se aplica desde el 2 de febrero de 2025.
• Desde el Reglamento Digital Omnibus (en vigor desde el 27.07.2026), los proveedores y los responsables del despliegue deben «fomentar» la alfabetización en IA; antes decía «garantizar».
• La ley no exige un nivel de conocimientos determinado por empleado.
• Desde el 2 de agosto de 2026, en Alemania la supervisión corresponde a la Bundesnetzagentur (agencia federal de redes).

Un justificante de formación documenta ese fomento. Un ejemplo es nuestra formación en alfabetización en IA con certificado de participación. Quien utilice un resumen de IA en una cita con un cliente debería saber qué puede hacer y qué no.

Qué significa esto para su empresa:

• Forme a su equipo.
• Archive el justificante con la fecha, los participantes y los contenidos.
• Designe a una persona que mantenga el justificante actualizado.

Regla 5: ¿por qué describir primero los procesos?

Porque la IA solo puede automatizar lo que alguien ha descrito. Esto se ve también en proyectos de Provimedia: quien conoce sus procesos puede utilizar de forma dirigida soluciones de IA y automatización de procesos. En la oferta es especialmente palpable: desde la medición hasta el envío.

Qué significa esto para su empresa:

• Deje por escrito, paso a paso, un proceso que se repita con frecuencia antes de entregarlo a una herramienta.
• Anote en ese momento quién hace qué, con qué y cuál es el resultado.
• Haga constar las excepciones en las que debe decidir una persona.

Regla 6: ¿cómo encuentran ChatGPT y compañía mi empresa?

A través de rastreadores que usted puede controlar. Según la documentación de OpenAI, el OAI-SearchBot hace que los sitios web se puedan encontrar en la búsqueda de ChatGPT, mientras que el GPTBot recopila datos de entrenamiento. Ambos se controlan mediante el archivo robots.txt. Si un cliente pregunta a la IA por una empresa de su región, su sitio debe poder aparecer. Más información en SEO y visibilidad en ChatGPT & Co.

Qué significa esto para su empresa:

• Abra sudominio.de/robots.txt y compruebe si el OAI-SearchBot está bloqueado con Disallow; en ese caso, la búsqueda de ChatGPT no encuentra su sitio.
• Decida por separado si el GPTBot puede utilizar sus páginas para el entrenamiento.
• Encargue esta comprobación a su agencia web o a quien se ocupe de su sitio web.

Regla 7: ¿en qué debo fijarme con una IA telefónica?

Silvio cuenta en el episodio por qué volvió a suprimir su IA telefónica. Quien quiera introducir una establece antes las reglas del juego, por ejemplo para la llamada de un cliente que quiere aplazar su cita.

Qué significa esto para su empresa:

• Establezca cuándo la IA pasa la llamada a una persona.
• Determine quién escucha conversaciones por muestreo.
• Diga a quienes llaman, al principio, que habla una IA.

Preguntas frecuentes

¿Basta ChatGPT Plus para los datos de clientes?

No, no cabe suponerlo. Plus es una oferta para particulares. El contrato de encargo del tratamiento lo ofrece OpenAI para Business, Enterprise y la API.

¿Puedo usar ChatGPT para ofertas si omito los nombres de los clientes?

Sin datos personales desaparece en gran medida el problema de protección de datos de este tipo. Tenga en cuenta, sin embargo, que también la dirección, el número de teléfono o una descripción inequívoca de la obra pueden hacer identificable a una persona. En caso de duda, hágalo revisar.

¿Basta una instrucción interna como justificante?

El art. 4 no exige un formato determinado ni un certificado. Lo decisivo es que el fomento tenga lugar y sea trazable. Documente por ello la fecha, los participantes y los contenidos.

¿Perjudica a mi visibilidad bloquear el GPTBot?

Según la documentación de OpenAI, los ajustes son independientes entre sí. Quien bloquea solo el GPTBot puede seguir siendo localizable en la búsqueda de ChatGPT, siempre que el OAI-SearchBot esté permitido.

Sobre el episodio

El episodio #42 de «Chefgeflüster by Lars und Silvio» apareció el 11.10.2026 y dura 1:37 horas. Los presentadores son Lars Piezl (empresario, mentor y conferenciante) y Silvio Kremzow (maestro pintor), más información en chefgefluester.rocks. Alexander Weipprecht desarrolla software desde hace unos 20 años; Provimedia construye desde hace dos años exclusivamente soluciones de IA para empresas. Las reglas siguen los temas del episodio; las cifras y los justificantes proceden de las fuentes enlazadas. Lo que se dijo exactamente en la conversación, lo mejor es que lo escuche usted mismo.

Información general, no asesoramiento jurídico.

Fuentes

• RGPD (Reglamento (UE) 2016/679), art. 28
• OpenAI Data Processing Addendum
• Ayuda de OpenAI: controles de datos y entrenamiento de modelos
• OpenAI: Why Language Models Hallucinate
• Kalai et al., Why Language Models Hallucinate (arXiv:2509.04664)
• OpenAI: March 20 ChatGPT outage
• AI Act de la UE, Reglamento (UE) 2024/1689
• Documentación de OpenAI sobre rastreadores
• Episodio #42 del podcast en Spotify
• Chefgeflüster: sitio web del podcast

Fecha: 12.10.2026