Por que a IA pode non ser unha vantaxe competitiva para quen a adopta?

A resposta (moi opinable!) xerada polo propio ChatGPT podería ser algo así:

Vantaxe competitiva refírese á vantaxe única dunha empresa sobre os seus competidores que lle permite xerar maior valor para os seus clientes e/ou custos máis baixos que os seus competidores. Para un emprendedor que sexa un dos primeiros en adoptar ChatGPT, ter unha vantaxe competitiva podería vir en forma de ser o primeiro en comercializar un produto ou servizo que utiliza ChatGPT, ou ter unha comprensión particularmente profunda de como usar ChatGPT para crear valor para os clientes.

Hai varias maneiras nas que os emprendedores poden obter unha vantaxe competitiva, incluíndo:

1. Diferenciación: Ofrecer un produto ou servizo único que é significativamente diferente do que ofrecen os competidores.
2. Vantaxe de custos: Poder producir bens ou servizos a un custo máis baixo que os competidores.
3. Intimidade co cliente: Ter unha comprensión profunda das necesidades e preferencias dos clientes e poder satisfacelas dun xeito que os competidores non poidan.
4. Efectos de rede: Crear un produto ou servizo que se volve máis valioso a medida que máis
   xente o usa.
5. Propiedade intelectual: protección de ideas, procesos ou produtos únicos con patentes, marcas comerciais ou dereitos de autor.

Cómpre sinalar que a vantaxe competitiva non é un estado permanente e que as empresas necesitan innovar e adaptarse continuamente para manter a súa vantaxe sobre os competidores.

☣️ Na miña modesta opinión só a última frase ten un pouco de sentido. O demais é só unha serie de razóns de marketing ou frases para adornar o produto: nada que un profesional capacitado non poida resolver sen o concurso da IA.

A primeira, a diferenciación, é unha das máis inconsistentes. Algo moi fácil de comprobar se usas IA para xerar imaxes, texto ou incluso automatizar tarefas…, e ver a falta dun estilo diferenciador. Algo que un deseñador gráfico ou redactor humano calquera proporciona case de xeito natural e sen esforzo, queda totalmente dilapidado e aplanado polas respostas de calquera IA. Os evanxelistas da IA dirán que o modelo aínda está en fase de desenvolvemento ou pouco adestrado; o que descobre a inconsistencia do punto 5, xa que adestrar o modelo implica saltarse a propiedade intelectual de centos de artistas e creativos con tal de que o modelo teña mellores referentes, iso si: sen protexer os dereitos de autor e as ideas dos mesmos. E isto tamén é válido para as respostas xeralistas que obtemos cunha IA, onde os modelos asaltan blogs, bases de datos, datos de carácter persoal,… todo con tal de devolver unha resposta sen curación ou aval de verosimilitude, que por desgracia moitos están a aceptar sen sentido crítico como se tratará dunha verdade incontestable. E si: a IA tamén se equivoca, delira e minte (aínda que sexa sen problemas de conciencia).

Por que se copias un paragrafo sentes que es un impostor, mentres que se deixas que iso o faga unha IA por ti sentes que estás a crear algo propio e novidoso?

Cando copias, hai un acto consciente de apropiación. Cando usas a IA, a máquina fai o traballo sucio, mentres, a nivel psicolóxico – pero non xudicial!-, ti quedas co rol de director ou curador. A ilusión de autoría nace porque o esforzo mental se despraza da execución á toma de decisións (o prompt, o refinamento). Aínda así, o "estilo propio" dilúese, xa que a IA promedia, non singulariza. O paradoxo é que o emprendedor que busca diferenciación usando unha ferramenta masiva está, en realidade, homoxeneizando a súa oferta. Ademais de que parece obvio que adestrar modelos con datos protexidos sen consentimento non é innovación, é apropiación.

A vantaxe de custos é unha vez máis un punto a favor ridículo e volve a poñer ao usuario de IA fronte ao dilema do aguacate. Un alimento moi demandado pero que antes de chegar ás nosas mesas a súa produción e transporte esta ligada á deforestación, aos conflitos sociais, o uso excesivo de auga e produtos fitosanitarios nocivos para o medio ambiente, e un transporte altamente contaminante. A IA funciona grazas a grandes centros de datos que consumen moitísima enerxía e contaminan grandes cantidades de auga, afectando a outras actividades – agrícolas, industriais,…- que precisan tamén deste ben, e que afectan cada vez máis ao caudal mínimo de subsistencia de cada vez máis comunidades.

Na imaxe: Agricultores da cidade de Delicias protestan na ponte Internacional Córdoba das Américas, en Ciudad Juárez, Chihuahua. O conflicto da auga na raia norte, onde agricultores chocan coa Garda Nacional e coas demandas de EEUU, desborda a un Goberno mexicano incapaz de satisfacer por igual a estes actores clave. EFE/Luis Torres | Forbes

Segundo estudos presentados por Amnistía Internacional a cadea de subministro ligada á IA e ás tecnoloxías dixitais amplifica a explotación social e laboral que xa existía, engadindo novas capas de invisibilidade e presión económica sobre as persoas máis vulnerables¹. A demanda masiva de baterías, centros de datos e dispositivos “intelixentes” aumenta a demanda de minerais críticos coma cobalto, cobre ou litio, o que incentiva a explotación intensiva en países con leis laborais débiles ou practicamente inexistentes. A carreira por máis potencia de cálculo e máis dispositivos conectados crea máis presión para producir barato e rápido, empurrando empresas e intermediarios a recortar en seguridade, salarios e dereitos.

Analizada con espírito crítico, a situación actual do desenvolvemento e aplicación da IA só parece conveniente para o feudalismo tecnolóxico: aparta ás persoas do coñecemento, enfróntanos a unha era de control mercantilista total das nosas vidas e unha falta de liberdades que de seguro vai condicionar as nosa existencia a perdas que durarán xeracións ou serán de facto totalmente irreversibles.

Que é ChatGPT?

Definición xerada polo propio ChatGPT:

ChatGPT é unha variante do modelo de linguaxe GPT (Generative Pre-training Transformer) que foi deseñado especificamente para aplicacións de chatbot. Adéstrase nun gran conxunto de datos de transcricións de conversas e é capaz de xerar respostas semellantes ás humanas a unha ampla variedade de solicitudes de entrada. ChatGPT é capaz de manter conversas sobre unha ampla gama de temas e pode incluso incluír emojis e argot nas súas respostas. É un exemplo dun tipo de modelo de linguaxe coñecido como transformador, que é unha arquitectura de rede neuronal que é particularmente axeitada para tarefas de procesamento da linguaxe natural.

Moitos outros modelos de IA caberían baixo esta mesma definición.

Non deixa de ser curioso o uso do substantivo² transformador, cando en ningún momento se explica que e como vai ser transformado.

A documentación destes modelos transformadores apunta a que ese nome se debe a que a súa arquitectura neuronal ten a capacidade de "transformar" unha secuencia de texto de entrada noutra secuencia de saída, realizando conversións como traducir idiomas, resumir documentos ou xerar respostas novas a partir da predición da seguinte palabra máis probable³.

Pero, é este o valor real dese nome? Ou hai outras intencións de transformar cousas que aquí non se declaran? Tratase dunha definición do comportamento dos modelos, ou dun proceso transformador que vai moito máis ala?

Sexa intencional ou non, o certo é que o termo presenta unha ambigüidade real.

O termo transformer ou transformador, pode entenderse, alo menos, de dúas maneiras distintas: unha técnica e outra semántica. A cuestión é se esa segunda lectura está xustificada ou se estamos proxectando sobre o nome unhas intencións que non ten.

Segundo a documentación que se pode consultar e dende un punto de vista estritamente técnico, o nome Transformer non parece que fora escollido porque o modelo pretenda "transformar" ás persoas, á sociedade ou o coñecemento. A súa orixe parece provir do artigo de 2017 Attention Is All You Need, onde os autores (oito científicos que traballaban para Google) presentaron unha nova arquitectura neuronal, que está na orixe do que agora coñecemos como Intelixencia artificial xerativa. Daquela, "transformar" fai referencia á transformación matemática dunha representación noutra dentro da propia rede. Aínda que daquela o fin de moitos modelos era a tradución eficiente, o artigo presentaba a posibilidade de melloralos e estender o seu uso a outras tarefas.

Segundo ese artigo o substantivo foi escollido para explicar o proceso que se deseñaba para a operación do modelo:

1. O texto convértese nunha secuencia de vectores numéricos (embeddings).
2. Cada capa da rede transforma esa representación mediante operacións lineais, mecanismos de atención (self-attention) e funcións non lineais.
3. Cada transformación produce unha representación máis rica do contexto.
4. Finalmente, esa representación utilízase para predicir o seguinte token: a seguinte ocorrencia estatisticamente probable.

É dicir, o termo transformer nace porque cada capa realiza unha transformación da representación interna dos datos. O texto non se transforma directamente; o que se transforma é a súa representación matemática.

Segundo esa aproximación, o nome podería terse traducido como rede transformadora ou arquitectura de transformación, pero acabou simplificándose a só Transformer⁴.

Pero estamos a falar da documentación oficial dun produto inmerso nun modelo de negocio moi concreto: o mundo segundo Google. Cando a documentación afirma que un Transformer "transforma unha secuencia de entrada noutra secuencia de saída", está utilizando unha explicación orientada ao usuario. A explicación é correcta, pero simplifica bastante ou peor: deixa sen explicar a necesidade e o propósito final dunha ferramenta con ditas capacidades. E máis alo do seu cometido utilitario inmediato, en que marco de relacións humáns ten interese e relevancia dita ferramenta.

O interesante é que esa explicación introduce, consciente ou inconscientemente, unha metáfora que pode ser calquera cousa menos inocua. Dende o punto de vista técnico, tal como se describe, o modelo tan só calcula unha distribución de probabilidade sobre o seguinte token en función do contexto dado (a nosa pregunta ou promt). Mais a metáfora introduce a posibilidade de que o modelo reciba unha idea e a devolva transformada. E sen explicar nin como nin para que.

Chegados aquí, poderíase dicir que o acrónimo GPT agocha dous significados distintos, un máis descritivo e outro potencialmente menos claro. Evidentemente non quero especular sobre o modelo de negocio de o mundo segundo Google (et alt.). E aínda aceptando o sentido técnico e funcional do termo Transformer – transformar representacións vectoriais mediante operacións matemáticas, converter unha entrada nunha saída diferente (tradución, resumo, resposta, etc.)- ningún deles desminte ou descarta, por si mesmo, unha intención de transformar, tamén, o pensamento humano. Ou sen ir tan alo, de actuar sobre o comportamento social en favor do modelo de negocio.

Aquí, para intentar ser minimamente obxectivo, convén separar o que pertence estritamente á tecnoloxía detrás dos modelos de IA xerativa, do que pertence ao uso destas tecnoloxías. Unha cousa é que é e como funciona, e outra moi distinta é por que, como e para que se usa.

Segundo a documentación dos diferentes modelos dispoñibles actualmente, a arquitectura transformer, como tal, non incorpora unha finalidade ideolóxica nin social. É un mecanismo de procesamento de secuencias. Do mesmo xeito que un motor eléctrico non leva incorporada para que se vai a empregar a ferramenta ou vehículo na que se instala.

Pero o certo, ou iso parecen reflectir moitos dos debates sobre o uso da IA que levamos escoitando nos últimos anos, é que os sistemas construídos sobre esa arquitectura poidan utilizarse para transformar procesos sociais.

Segundo os datos que manexan, e exhiben, as mesmas empresas tecnolóxicas que hai detrás dos modelos de IA que usamos, dende a irrupción masiva destes se pode asegurar que:

• cambiou a forma na que buscamos información; e tamén cambiou como e en función de que lle damos valor ou verosimilitude á información que consumimos.
• os métodos de ensino foron, e seguen, modificándose – sen que se avalíe se esas modificacións son máis ou menos eficientes ou convenientes-;
• as persoas automatizan cada vez máis tarefas de carácter intelectual – sen aparentemente reflexionar sobre os custes ou as consecuencias-;
• as empresas dispoñen de ferramentas cada vez máis poderosas e capaces de modificar de modo evidente os hábitos de consumo en cada un dos nichos de mercado que poidan interesarlles – e todo se acaba por volver mercadoría-;
• alterouse a maneira na que se produce coñecemento.
• a IA xa está a cambiar o concepto mesmo de propiedade intelectual e o sistema actual de patentes, dereitos de autor,… está obsoleto fronte á IA.

Esas transformacións existen, están aí: nos debates sobre o comportamento dos xoves, os modelos de ensino e até o futuro mesmo dos réximes políticos, e en especial da democracia tal e como a coñecemos despois de mediados do século XX. Claro que isto son só as consecuencias da aplicación da tecnoloxía, e sería terrible que iso xa estivera implícito no proceso de selección do nome e do uso do termo transformer ou transformador. Semella que non foi así, que a selección do nome non atendeu a esa suposta intencionalidade transformadora. Aínda así, parece como unha metáfora que se cumpre a si mesma, demoledora e certa. As corporacións non escolleron "Auto-atención secuencial"; escolleron "Transformer" precisamente porque vende. Evoca poder, cambio, evolución. Aínda que non fose a intención inicial, o marketing e o discurso público xa se encargaron de transformar o termo nunha promesa de mutación social.

O certo é que inda evitando esa suspicacia sobre o nome elixido, minimizando os significados ocultos da metáfora, en principio, non intencionada: a transformación está a suceder, independentemente da etimoloxía. A IA xestouse nunha entorna política e social determinada, e na divulgación sobre IA é frecuente atopar verbos como transformar, comprender, aprender, razoar ou imaxinar. En principio, son só metáforas útiles para explicar comportamentos complexos, pero tamén poden inducir a pensar que existe unha intencionalidade, non sempre clara, que impulsa a algunhas grandes corporacións a presentar os valores da IA coma a solución a moitas das nosas ocupacións ou preocupacións, e a antropomorfizar estes sistemas mediante un vocabulario que suxire capacidades ou intencións que non forman parte da definición técnica da arquitectura que lles da soporte. E que quizais por iso mesmo, por que se ven usos desta tecnoloxía que non parecen claros ou que son dificilmente entedibles como ben intencionados (Meta, Tesla, Palantir,…), por que as grandes corporacións implicadas non dan unha explicación clara sobre os seus modelos de negocio, pero si contribúen á modificación de políticas públicas para favorecelos.

Agora, ao mellor, conviría saber como realmente chegamos ate aquí e que intencións sobre o uso que lle imos dar a esta tecnoloxía nos van favorecer e cales poden abrir camiños a procesos sociais totalmente indesexables.

A IA non só consume auga; consome enerxía eléctrica baseada en combustibles fósiles ou micro-nucleares, consome terras raras cuxa explotación implica danos mediambientais incalculables. A "vantaxe de custos" para o emprendedor é, en realidade, unha externalización de custos ambientais e sociais. É unha economía de gratuidade aparente que paga o planeta e as futuras xeracións.

Así que por moi poderosos que se volvan os modelos de IA, e as tecnolóxicas que os manteñen, espero que aprendamos a non outorgarlle unha capacidade cognitiva equivalente á humana. Ou dito doutro xeito que aprendamos a non deixar que a simulación do proceso cognitivo⁵ substitúa o modelo real humano e pensemos cal é o futuro que queremos, para nós preo sobre todo para as xeracións vindeiras. Transformando o presente sen dilapidar o futuro.

NOTAS