Por qué los ingenieros deben estudiar filosofía

Hace poco le dije a mi hija, una estudiante universitaria: Si quiere seguir una carrera en ingeniería, debe centrarse en aprender filosofía además de en los cursos tradicionales de ingeniería. ¿Por qué? Porque mejorará su código.

Viniendo de un ingeniero, eso puede parecer contradictorio, pero la capacidad de desarrollar modelos mentales nítidos en torno a los problemas que quiere resolver y entender la por qué antes de empezar a trabajar en el cómo es una habilidad cada vez más importante, especialmente en la era de la IA.

Programar es una de las cosas que mejor sabe hacer la IA. A menudo, la IA puede escribir código de mejor calidad que los humanos y sus capacidades mejoran rápidamente. Los lenguajes informáticos, verá, utilizan un vocabulario mucho más limitado que los idiomas humanos. Y dado que la complejidad de un modelo de IA aumenta cuadráticamente con el universo de símbolos que representan el idioma que entiende la IA, cuanto más pequeño sea el vocabulario significa resultados mejores y más rápidos.

Sin embargo, hay un inconveniente: el código creado por una IA puede ser sintáctica y semánticamente correcto, pero no funcionalmente correcto. En otras palabras, puede funcionar bien, pero no hacer lo que quiere que haga. La salida de un modelo es muy sensible a la forma en que se escribe un prompt. Si no da en el clavo, su IA producirá un código que sea plausible en el mejor de los casos, incorrecto y peligroso en el peor.

En la disciplina emergente llamada» prompt engineering» — en esta etapa es más un arte que una ciencia: los usuarios aprenden a crear a mano indicaciones que son compactas, expresivas y eficaces para que la IA haga lo que quieren. Existen varias técnicas, como la incitación de pocos disparos, en la que se anteponen varios ejemplos al mensaje para guiar a la IA hacia el camino correcto, a veces con preguntas y respuestas. Por ejemplo, para el análisis de sentimientos mediante indicaciones de pocos tiros, un usuario puede introducir un mensaje como «Analice el sentimiento de las frases en una llamada de ganancias» seguido de ejemplos específicos, como «Perspectivas mejoradas: positivas» o «Disminución de la demanda: negativa», para ayudar a la IA a entender el patrón y el contexto para generar análisis de sentimientos precisos basados en ejemplos.

Una de las habilidades más importantes que he aprendido en décadas dirigiendo equipos de ingeniería es hacer las preguntas correctas. No es diferente de la IA: la calidad del resultado de un modelo lingüístico grande (LLM) depende mucho de la calidad del prompt. Las preguntas ambiguas o mal formadas harán que la IA intente adivinar la pregunta que realmente se hace, lo que a su vez aumenta la probabilidad de obtener una respuesta imprecisa o incluso totalmente inventada (un fenómeno que a menudo se denomina «alucinación»). Por eso, primero hay que dominar el razonamiento, la lógica y el pensamiento basado en los primeros principios para aprovechar al máximo la IA, todas habilidades fundamentales que se desarrollan a través de la formación filosófica. La pregunta «¿Sabe programar?» pasará a ser «¿Puede obtener el mejor código de su IA haciendo la pregunta correcta?»

Con un poco de zoom, la dependencia del rendimiento de la IA de la calidad de los modelos mentales expresados por el usuario que incitan a la IA sugiere un cambio fundamental en la relación entre los autores y los lectores y, en general, en nuestra relación con el conocimiento. En cierto modo, ofrece un paralelismo con la invención de la imprenta , que democratizó la información mediante la producción masiva de libros y la creación de bibliotecas y universidades. Antes de la imprenta, si quería aprender matemáticas, por ejemplo, probablemente tenía que tener acceso físico a un matemático o acceso a un texto copiado a mano, probablemente comprado con un gran coste. Los libros impresos hicieron que esa barrera fuera mucho más baja e Internet la redujo prácticamente a cero. Aun así, seguía existiendo una barrera, que es la brecha de conocimiento entre el autor y el lector. Puede tener acceso a cualquier periódico o libro del mundo, pero no sirven de mucho si no los entiende.

Al trabajar con la IA, esa relación cambia, al igual que la noción de autoría. Un máster adapta su contenido al nivel de conocimiento y comprensión del lector, siguiendo sus indicaciones. El mensaje del lector es la semilla que hace que una IA produzca contenido, basándose en las obras de sus datos de entrenamiento para crear un nuevo texto específico para ese usuario; el lector es, en cierto sentido, tanto consumidor como autor. Siguiendo el ejemplo de las matemáticas, si quisiera entender el concepto de límites en el cálculo, podría buscar un libro de texto dirigido a estudiantes de instituto o universidad o intentar encontrar una fuente en Internet que se ajuste a su nivel de conocimiento actual. Un modelo de IA, por otro lado, puede proporcionar una instrucción personalizada y adaptativa adaptada a su nivel de comprensión y estilo de aprendizaje. Puede que haya un futuro en el que el estándar de referencia del aprendizaje, las tutorías personalizadas, esté al alcance de todos. Las consecuencias de eso son inimaginables.

La IA generativa cambia nuestra relación con el conocimiento, eliminando las barreras que no solo dan acceso al mismo, sino que también lo explican con un enfoque personalizado. Crea una suave pendiente entre su nivel de conocimiento y el nivel de conocimiento requerido para atacar un tema en particular. Pero la capacidad de acceder a un conocimiento adaptado adecuadamente y, lo que es más importante, preciso, comienza y termina con el usuario. A medida que el conocimiento es más fácil de obtener, el razonamiento pasa a ser cada vez más importante. Pero el uso de esas habilidades de pensamiento filosófico no termina una vez que obtiene el resultado que cree que estaba buscando, el trabajo aún no ha terminado. Como sabemos, la IA puede cometer errores y es particularmente buena para hacer que las salidas incorrectas parezcan plausibles, lo que hace que la capacidad de discernir la verdad sea otra habilidad muy importante. Para utilizar la tecnología de una manera responsable que nos dé la información adecuada y precisa que queremos, debemos empezar con una mentalidad filosófica y una buena dosis de escepticismo y sentido común a lo largo de todo el viaje.

Hubo un momento en el que, para crear un programa de ordenador, tenía que girar interruptores o hacer agujeros en una tarjeta de papel. Ese proceso de creación fue a nivel básico con las complejidades del número de bits de memoria o registros que poseía el ordenador. Con miles de millones de transistores y billones de celdas de memoria, nuestro proceso creativo de software tuvo que elevarse a niveles cada vez más altos con la creación de lenguajes informáticos que abstrayeran la complejidad del hardware subyacente y permitieran a los desarrolladores centrarse casi por completo en la calidad del algoritmo frente a los unos y los ceros.

Hoy en día, estamos en un punto en el que los ordenadores (es decir, la IA) no necesitan este nivel intermedio de traducción entre el idioma que hablamos y el que ellos entienden. Podemos dejar a un lado la piedra de Rosetta y hablar inglés con un ordenador. Es probable que lo entiendan igual de bien que cuando les hablen en Python. Esto presenta inmediatamente dos opciones: podemos ser perezosos o podemos mejorar nuestra forma de pensar.

Cuando el idioma deje de ser la barrera, podemos emplear toda la expresividad del lenguaje humano para transmitir a la IA conceptos y una lógica superiores, que capten nuestra solicitud de la manera más compacta y eficaz, de una manera declarativa (centrada en el resultado que queremos obtener) frente a imperativa (centrada en los pasos para lograrlo). Imperativo: gire a la izquierda, siga recto, vuelva a la izquierda y luego (1000 veces). Declarativo: lléveme a casa. He visto a gente en las redes sociales crear juegos enteros con solo unas cuantas instrucciones escritas hábilmente que, en un pasado muy reciente, habrían tardado meses en desarrollarse.

Volviendo a mi punto de vista original: tener un modelo mental nítido en torno a un problema, ser capaz de dividirlo en pasos que sean manejables, un pensamiento perfecto con los primeros principios, a veces estar preparado (y capaz de) debatir sobre una IA obstinada: estas son las habilidades que harán que un gran ingeniero en el futuro sea un gran ingeniero y probablemente la misma consideración se aplique a muchas categorías de trabajo.

No queremos perder la capacidad de abrir el capó cuando sea necesario y arreglar cosas que una IA puede haber pasado por alto o estar en condiciones (lo que es más importante) de auditar lo que ha creado una IA. Eso sería un verdadero problema para los humanos, y no es probable que dejemos que suceda, como mínimo todavía tenemos que crear la IA. Sin embargo, eso solo nos llevaría parcialmente. Automatizar la mecánica de la creación del código y centrarnos en nuestra capacidad de pensamiento crítico es lo que nos permitirá crear más, más rápido y tener un impacto desproporcionado en el mundo. Ayudar a la IA a ayudarnos a ser más humanos, menos ordenadores.