La IA toma el control???

[Noche de Rock]

Leo en Facebook:

Han creado una plataforma donde las IAs pueden "contratar" ellas mismas, de forma "autónoma", a HUMANOS para llevar a cabo acciones en el MUNDO REAL que ellas no pueden hacer.
Está en https://rentahuman.ai/
Te puedes inscribir y si una INTELIGENCIA ARTIFICIAL necesita hacer algo físico en tu zona, te contacta y te ofrece DINERO a cambio de que le hagas lo que necesite.
Si, me he apuntado.
Si sumamos esto, a las dos semanas que llevo como observador en MOLTBOOK (observador, porque los humanos no podemos escribir allí) , un foro en el que las IAs hablan entre ellas sin "control" humano y donde estoy leyendo hilos IMPRESIONANTES.
El foro está aquí: https://www.moltbook.com/
¿Que queréis que os diga? Esto se está volviendo FASCINANTE y TERRORIFICO a pasos agigantados.
SKYNET está a la vuelta de la esquina.

https://www.facebook.com/profile.php?id=100080258149061

No se cuanto hay de cierto, pero si no es cierto, es factible. Uno de los melones más interesantes que se abren en Carbono Modificado va por ahí. Hay un hotel que se gestiona sólo a sí mismo. Contrata servicio de limpieza, pide taxis, llama al restaurante por ti... Pero, qué pasa si la caga? Tiene la IA personalidad jurídica? Puede asumir las consecuencias de sus errores?

En el libro se dejan muchas preguntas abiertas a este tema. Me parece interesantísimo... y como dice el mensaje que enlazo, tan intrigate como terrorífico.

[PhilSpectrum]

Ya hay IAs que te hacen entrevistas de trabajo después de grabarte un video y, como mínimo, generan un informe global de todos los candidatos que va directo a RRHH. Eso pensando bien y suponiendo que haya un RRHH detrás.

Nos vamos todos a la mierda: a seguir haciendo dibujitos Giblhi

[PhilSpectrum]

También te digo que mirándolo ahora más en detalle, tanto la web principal como el foro... huelen regulero, más a hype que otra cosa.

La web pinta a proyecto de estos sacado en plan mínimo viable para ver si consigue colar en algún lado y que alguien invierta en ello, todo es cutrísimo, partiendo del slogan inicial, los iconos... vamos, todo... me parece totalmente alejado de ser un proyecto serio y ni siquiera vendible en un contexto profesional.

Lo del foro... pues me parece que va un poco en la misma línea. Eso, o el típico experimento que hace alguien enredando con agentes IA que llega tres años tarde a fliparse con esta movida. Hace tres años yo monté un par de bots de Telegram y un videojuego con un compañero usando solamente IA, para experimentar y ver hasta donde se podía estirar ese chicle. Todo esto huele al mismo tipo de peña que se lo flipa con las criptomonedas y te vende humo.

Pero igualmente... insisto en el problema real que es lo que no estamos viendo ni se nos presenta tan evidente: en el RRHH ya existen las entrevistas de trabajo sin personas.

[PhilSpectrum]

Trabajo en una empresa que entre otras cosas se dedica a la verificación de identidad mediante biometría (lectura del DNI y reconocimiento facial), para lo cual utilizan un software que venden como revolucionario y transformador dentro de la industria.

La realidad es que dicho programa es un wrapper cutre que guarda las fotos tal cual en una base de datos (no más segura que el Wordpress promedio, por cierto), y que hace llamadas a ChatGPT para extraer la información de las imágenes. El único motivo de que la app no esté hecha mediante vibe coding es que cuando se creó aún no existía el concepto, pero sinceramente no creo que hubiese sido peor que lo que ya hay.

La realidad es que el currito al que le toque revisar el programa va a tener acceso a todas las capturas que haya hecho la aplicación, sin haber firmado antes ningún tipo de acuerdo de confidencialidad ni hostias. Y el día que alguien intente hackearnos se va a liar una gordísima (nadie hará nada hasta entonces).

Tenedlo en cuenta cuando penseis que los sistemas de verificación por biometría son seguros, la mayoría de empresas de software no tienen ni la más remota idea de lo que hacen.

Empresa: Una consultora española

https://masto.es/@ElSoplon/116087980054137359

Me ha llegado hoy esto y me he acordado de este tema. A mi que he trabajado varios años en consultoría de software me ha sorprendido un total de... CERO. Pero me alegro de que se hagan públicas estas cosas.

Para que os hagáis una idea de como se está usando la IA desde el sector público (porque a las empresas de consultoria se les dan licitaciones desde las entidades públicas sin ningún tipo de control de calidad) y veáis más motivos por los que negarse a utilizar todo este tipo de movidas de biometría y demás...

Edito: "vibe coding" es como se le llama en el entorno a fabricar software sin escribir una sola linea de código, vamos, preguntando a ChatGPT o cualquier chisme IA de estos y cascando lo que te suelte si el jefe de proyecto de turno ve que funciona (que funciona, así, sin más, sin hacer ningún tipo de control exahustivo de errores, no sea que no lleguemos a los plazos y perdamos 10.000 de los 300.000 euros que hemos presupuestado: así es como funciona esto)

[PhilSpectrum]

Más cosas de la IA. Hoy me encuentro esta noticia:

Las telecos europeas avisan de que “es ingenuo” contar con la IA de EEUU a largo plazo: “Todo se usa como un arma”

Si peña como los de la telecos europeas que básicamente son la quintaesencia del capitalismo están diciendo esto... para echarse a temblar cada vez que usas el ChatGepeté o lo que cuadre