daneel, me fascina el tema, y me inclino a coincidir con vos.
No sé si conoces el experimento chino de Searle, algo antiguo, pero habla de ese tema.
se me ocurre toda clase de dilemas éticos con una I.A. autoconsciente: por ejemplo, si la I.A. solucionara el tema de la gravidad cuántica, y si es un ser autoconsciente, entonces le correspondería derechos de autor, abrir una cuenta a su nombre, ponerse una cara de humano, etc…
salu2
carmen