LLMs privats vs ChatGPT: per què la teva empresa no hauria d'usar l'API d'OpenAI per a dades sensibles

Cada vegada que el teu equip enganxa un contracte, un correu intern o dades de clients al ChatGPT, aquesta informació entra a la infraestructura d’OpenAI. El debat sobre exactament què fa OpenAI amb aquestes dades és llarg, però la pregunta rellevant per a qualsevol empresa és més senzilla: necessites assumir aquest risc?

La resposta gairebé sempre és no. La raó per la qual moltes empreses segueixen fent-ho és que ningú els ha explicat que existeix una alternativa viable.

Què passa realment amb les teves dades a OpenAI

Usar l’API d’OpenAI en termes estàndard no és el mateix que usar la interfície web. OpenAI declara que les dades enviades via API no s’usen per defecte per a l’entrenament — però això pot canviar, i en qualsevol cas les dades surten del teu perímetre i passen per infraestructura de tercers als EUA, amb totes les implicacions que això té per al RGPD, NIS2 i EU AI Act.

Per a molts sectors — legal, salut, fintech, administració pública — aquest no és un problema teòric. És una possible infracció de compliment.

L’alternativa: models locals fine-tuned

Per a moltes tasques de negoci concretes n’hi ha prou amb un model open-weight ben configurat al teu propi maquinari. No cal un model de frontera com els GPT-6 i GPT-6.1 d’OpenAI.

Models que desplego habitualment per a clients:

• Qwen3.6 i Qwen3.8 de 27B (Alibaba), en versions ajustades: raonen bé, són multilingües i, quantitzats, caben en una GPU de 16 GB.
• Qwen3.5 de 4B i 9B, per a tasques ràpides: classificar, extreure i resumir.

Tots poden executar-se en hardware local — des d’una estació de treball amb GPU RTX fins a un servidor dedicat — sense enviar cap dada a internet.

El cost real de la inferència local

L’argument més comú contra els models locals és el cost del hardware. És un argument vàlid si fas els números malament.

El nostre servidor d’inferència té dues RTX 5080 de 16 GB: un model de 27B quantitzat n’ocupa una i l’altra queda per a imatge, vídeo i veu. L’API cobra per token i la GPU és un cost fix, així que amb un volum alt i estable el maquinari acaba pagat. Quan passa depèn del teu volum i dels preus vigents: fes el càlcul amb les teves dades reals.

El fine-tuning amb les teves pròpies dades també dona resultats significativament millors en tasques de negoci específiques que un model d’ús general.

Quan té sentit l’API d’OpenAI

No tot és blanc o negre. L’API externa té sentit quan:

• Prototipat ràpid on les dades són públiques o anònimes
• Volums molt baixos sense dades sensibles
• Equips sense infraestructura tècnica per gestionar models locals

Però si la teva empresa gestiona dades de clients, dades financeres, propietat intel·lectual o informació regulada — i vol compliment RGPD i EU AI Act — la conversa sobre infraestructura IA privada hauria d’haver passat fa temps.

Angel Sulev és arquitecte de seguretat i IA amb 30+ anys d’experiència. Fundador de PROTISEC, especialitzat en MLSecOps i desplegaments de LLMs privats per a empreses B2B.