Anthropic, una de las compañías más influyentes en el desarrollo de inteligencia artificial, ha tomado un enfoque inusual para mejorar el comportamiento de su modelo Claude al consultar a 15 expertos cristianos sobre ética y moralidad. Este esfuerzo, revelado tras una cumbre en San Francisco, busca definir cómo debe actuar una IA avanzada, y plantea un debate crucial sobre la integración de valores en los sistemas de IA. Durante el encuentro, se discutieron cuestiones sobre la 'formación moral' de Claude, con preguntas sobre su comportamiento y límites. El profesor Brian Patrick Green, especialista en ética de la inteligencia artificial, planteó interrogantes sobre la responsabilidad de la IA. Aunque el enfoque de Anthropic se basa en el altruismo efectivo, algunos expertos advierten que atribuir características morales a un sistema algorítmico puede confundir la responsabilidad entre desarrolladores y máquinas. Además, se abordaron temas complejos como la posible conciencia de la IA. Anthropic asegura que este tipo de encuentros buscarán incorporar una variedad de perspectivas éticas para desarrollar una IA potente y socialmente responsable.