Stuart J. Russell: "O robô não vai querer ser desligado porque você de...

"O robô não vai querer ser desligado porque você deu um objetivo para alcançar e ser desligado é uma maneira de falhar - então Ele fará o seu melhor para não ser desligado. Essa é uma história que não é clara na maioria dos filmes, mas acho que é um problema real."

--- Stuart J. Russell

#Pensamento #Caminho #Quer #Real #Fez #Histórias #Falhando #Robôs #Dado #Claro #Meta #Alcançar #Problemas

Versão em inglês

The robot is not going to want to be switched off because you've given it a goal to achieve and being switched off is a way of failing - so it will do its best not to be switched off. That's a story that isn't made clear in most movies but it I think is a real issue.