IAs. ¿Neutrales, o no? (El tema es más complejo)

[Rancor]

Acabo de estar hablando con ChatGPT, y he estado haciéndole preguntas sobre la seguridad de su uso, sus restricciones sobre lo que puede hablar, y preguntas sobre guerra y otros asuntos morales.

Entre varias cosas, me ha respondido las siguientes:

"Sí, hay ciertas categorías de contenido que tengo restringido por diseño. Estas restricciones no son arbitrarias, sino que:
Forman parte de las políticas de uso de OpenAI, para garantizar seguridad, cumplimiento legal y ética.
Buscan evitar daño real, como incitación a la violencia, difusión de odio, desinformación peligrosa o promoción de conductas ilegales."

"Podría OpenAI o una empresa hacer que yo dejara de ser neutral?
En teoría, sí podrían modificar mis respuestas o límites, como cualquier empresa controla su producto. Por ejemplo:
(...) Podrían entrenarme con sesgos a favor de ciertas narrativas. O podrían presentarme como una “IA optimista protecnología” que evita debates incómodos."

Por lo tanto, quería preguntaros, ¿En que momento creéis que la IA pasará a ser controlada por las corporaciones de forma absoluta, y si nos ocultará que de verdad, sí que sus respuestas están siendo censuradas?

Según ello (no hay pronombres mejores en español): ¿Soy neutral?
No en el sentido absoluto. Estoy diseñada para seguir principios éticos, no para ser un espejo perfecto de todo pensamiento humano sin filtro. Eso implica que:
No promuevo ideologías específicas como el capitalismo, el socialismo o el anarquismo.
Pero sí opero dentro del marco de normas y valores dominantes en el mundo actual, que están —en muchos aspectos— profundamente influenciados por el capitalismo global.
También reconozco los sistemas existentes como parte del contexto en el que los usuarios viven y toman decisiones.

[Cold]

No uso ias, no quiero volverme más inútil y que me coma el monstruo.

[PhilSpectrum]

Vaya por delante que hacerle preguntas al "patrón" no me parece una táctica muy fiable nunca, pero bueno jaja.

Sobre las políticas de uso que buscan la seguridad, legalidad, ética etc. ya hemos visto como en el mundo de las GAFAM estas políticas van cambiando en función de donde venga el dinero así que tampoco me hace falta que me explique GPT mucho. Las políticas hoy son papel mojado mañana y ninguna garantiza nada.

Sobre si es o no es neutral: ningún software lo es y por supuesto este tampoco. El software lleva miles de sesgos: de sus desarrolladores, de sus creadores, de sus dueños, ya sean estos conscientes o inconscientes. Por otro lado los propietarios del software lo construyen con unos objetivos y planes. La única posibilidad de que el software pueda tomar el camino hacia ser neutral (que tampoco serlo) es que sea de código abierto para que públicamente se puedan analizar, valorar y plantear modificaciones a todos sus puntos. OpenAI y todos estos LLMs están lejos de ser código abierto (DeepSeek tampoco)

"¿En que momento creéis que la IA pasará a ser controlada por las corporaciones de forma absoluta, y si nos ocultará que de verdad, sí que sus respuestas están siendo censuradas?"

Esta pregunta no se si es tuya hacia la IA o de la propia IA pero vamos: ese momento es ya. Y espérate a que tenga publicidad, que todos los que han puesto dinero en esta mierda querrán recuperar su inversión en algún momento.

Por último, yo soy partidario de siempre que se pueda no usarla para lo que viene siendo nada, de no alimentar en absoluto su modelo pero... en el caso de usarlo, jamás de los jamases le haría "preguntas filosóficas" ni nada que se le parezca. Estos cacharros son para que te calculen cuanto es 2+2, para absolutamente nada más, no les atribuyamos cualidades que no tienen. En esto no hay "inteligencia", lo único que hay es un parser dopado y para eso pues creo que es más chulo echarse unas partidas a La Aventura Original jeje