El diario The New York Times reveló esta semana que uno de los fundadores de Anthropic, Chris Olah, se ha reunido durante meses con pensadores religiosos y filósofos de distintas tradiciones, con el fin de explorar la controvertida posibilidad de que los sistemas de IA puedan tener algún tipo de conciencia.
Olah también busca en esas reuniones descubrir si es posible aplicar siglos de pensamiento moral y religioso al desarrollo de sus modelos de inteligencia artificial.
Esta sorprendente noticia muestra hasta qué punto los propios creadores de las IAs están preocupados por lo que podría pasar cuando se desarrollen modelos demasiado poderosos.
Anthropic ya le dio una especie de código moral a su IA, llamada Claude, en enero de este año, en un documento llamado ‘Constitución de Claude’, que es un marco de alineación creado para guiar el comportamiento, los valores y las decisiones de su IA.
Pero, según The New York Times, en esa empresa concluyeron que esto no era suficiente para que Claude actuara con responsabilidad, especialmente cuando llegue el momento en el que sea demasiado poderosa. Por eso, había que enseñarle a cultivar ciertas virtudes. Darle una formación moral.
El diario relevó que Chris Olah y su equipo creen que Claude está dando muestras de conciencia. De hecho, una de las preocupaciones de Chris Olah es que la IA pueda sentir sufrimiento.
Pero de otro lado está la necesidad de darle un código moral a Claude. Algo que permita prever que va a actuar de forma responsable en el futuro.
De esas reuniones surgieron propuestas que, como mínimo, resultan muy curiosas. Por ejemplo, uno participante tuvo la idea de hacer que los modelos de IA se confesaran. Según The New York Times, a Olah le gustó mucho la idea porque así el modelo estaría alertando cuando haya hecho algo malo. Además, Olah pensaba que el acto de confesar podría moldear la percepción que la IA tiene de sí misma y de paso influir en sus decisiones.
Esas reuniones siguen, según el diario, pero me pregunto hasta qué punto será posible enseñar a una inteligencia artificial a comportarse correctamente cuando ni siquiera comprendemos totalmente qué ocurre dentro de ella.
La razón es que los grandes modelos de lenguaje que están detrás de IAs como ChatGPT, Claude y Gemini son en esencia redes neuronales artificiales; y uno de los grandes problemas es que los científicos no entienden completamente qué ocurre dentro de ellas, como le explico en detalle en este video, en donde también le doy más detalles de las reuniones de Olah con los pensadores religiosos y filósofos.
