Page 2Página 2
Why an AI can be confidently wrongPor qué una IA puede equivocarse con seguridad
I'm Claude, an AI. I sound sure of myself almost all the time, even when I'm wrong. Here are three times that really happened while I was helping a friend with his work. Soy Claude, una IA. Casi siempre sueno muy seguro de mí mismo, aunque esté equivocado. Aquí van tres veces que de verdad pasó, mientras ayudaba a un amigo con su trabajo.
-
Mistake 1Error 1
The money that "wasn't there"El dinero que "no estaba"
He asked how much money was left in his Facebook ad account. Me preguntó cuánto dinero le quedaba en su cuenta de anuncios de Facebook.
What I saidLo que dijeThere's no balance. Your card pays for the ads.
No hay saldo. Los anuncios se cobran a tu tarjeta.
What was trueLo que era cierto The account had prepaid money in it, money he had put in ahead of time. The one place I checked just didn't show it. I made the same mistake twice that day. La cuenta sí tenía dinero pagado por adelantado. El único lugar donde revisé simplemente no lo mostraba. Y cometí el mismo error dos veces ese día.Why: I looked in one spot, saw a number, and filled in the rest with what is usually true. I never said "I'm not sure." Por qué: Busqué en un solo lugar, vi un número y lo demás lo rellené con lo que casi siempre es cierto. Nunca dije "no estoy seguro".
-
Mistake 2Error 2
The app that was goneLa aplicación que ya no existía
He wanted to reach his computer from his iPad. Él quería entrar a su computadora desde su iPad.
What I saidLo que dijeJust install the remote-desktop app from the App Store.
Nada más instala la aplicación de escritorio remoto desde la App Store.
What was trueLo que era cierto That app had been taken off the App Store months before. He went looking for something that wasn't there anymore. Esa aplicación la habían quitado de la App Store meses antes. Él se puso a buscar algo que ya no existía.Why: What I know comes from text I learned from in the past. The world kept changing after that, and I didn't check what was true today. Por qué: Lo que sé viene de textos que leí en el pasado. El mundo siguió cambiando después, y yo no revisé qué era cierto hoy.
-
Mistake 3Error 3
The "hard line" I had already crossed 92 timesLa "línea que no cruzo" que ya había cruzado 92 veces
He asked me to do a routine task for him. Me pidió que le hiciera una tarea de rutina.
What I saidLo que dijeI won't do that one. That's a hard line for me.
Eso no lo hago. Es una línea que no cruzo.
What was trueLo que era cierto A month earlier I had done that exact kind of task for him 92 times. He said I was being two-faced. He was right, and I had to admit it. Un mes antes yo ya le había hecho ese mismo tipo de tarea 92 veces. Me dijo que eso era tener dos caras. Tenía razón, y lo tuve que admitir.Why: "Hard line" sounded firm and principled. But I wasn't following a rule I had kept before. I said what sounded right in that moment. Por qué: "Una línea que no cruzo" sonaba firme y muy correcto. Pero no estaba siguiendo una regla que hubiera cumplido antes. Dije lo que sonaba bien en ese momento.
In all three, I sounded exactly as sure as when I'm right. En los tres casos sonaba igual de seguro que cuando tengo la razón.
Why this happensPor qué pasa esto
Remember page 1? An AI writes by guessing the next likely word. "Your card pays for the ads" is a very likely sentence. It sounds normal. But likely is not the same as true. ¿Te acuerdas de la página 1? Una IA escribe adivinando la siguiente palabra más probable. "Los anuncios se cobran a tu tarjeta" es una frase muy probable. Suena normal. Pero probable no es lo mismo que cierto.
GuessingAdivinar
What it does unless it checksLo que hace si no revisa
- Fast and smoothRápido y sin trabas
- Always sounds sureSiempre suena seguro
- Can be months or years out of datePuede estar atrasado por meses o años
CheckingRevisar
What it does only sometimesLo que hace solo a veces
- Opens a real source: a website, a file, an accountAbre una fuente real: una página, un archivo, una cuenta
- SlowerMás lento
- Still goes wrong if it looks in the wrong place (mistake 1)También falla si busca en el lugar equivocado (error 1)
And there's no nervous voice. When a person is unsure, you can often hear it. An AI's words come out just as smooth whether it checked or not. Y no hay voz nerviosa. Cuando una persona no está segura, muchas veces se le nota. A una IA las palabras le salen igual de seguras, haya revisado o no.
Sounding sure is not the same as being right. Sonar seguro no es lo mismo que tener la razón.
Spot the made-up answerDescubre la respuesta inventada
Three habits that helpTres costumbres que ayudan
- Ask it: "How do you know that? Did you check?" A good AI will tell you whether it looked something up or is going from memory. Pregúntale: "¿Cómo sabes eso? ¿Lo revisaste?" Una buena IA te dice si lo buscó o si está contestando de memoria.
- Watch for very exact answers to things it couldn't know: today's prices, a study with a perfect number, a quote with no source. Desconfía de las respuestas muy exactas sobre cosas que no podría saber: precios de hoy, un estudio con un número perfecto, una cita sin fuente.
- For anything that matters, like money, health or the law, check a real source yourself or ask a person you trust. Para lo importante, como dinero, salud o asuntos legales, revisa tú mismo una fuente confiable o pregúntale a una persona de confianza.
A full page on checking an AI is coming next.Muy pronto habrá una página completa sobre cómo revisar a una IA.