lassa sta, l'unico cosa di cui sono certo in informatica è che si tratta di un territorio talmente vasto che posso essere un genio in un ambito e non capirci nulla in un altro , lo dico quindi da discretamente ignorante su come è strutturata una AI , mi sembra giusto difficile pensare che si possa autoprogrammare, può apprendere ma non credo autoprogrammarsi, ma pronto ad essere smentito.
secondo me qui si entra proprio in un ambito che è molto filosofico, e forse ci vorrebbe proprio un filosofo ad aiutarci, ma almeno per come intendo io la coscienza una macchina non riesce ad averla perchè in realtà riproduce , come dice l'articolo che hai postato, ma non riesce ad avere una percezione di se stessa, dall'altro o del mondo che la circonda , attinge a tutto quello che è riuscito ad immagazzinare ma non va oltre a quello. Non è neanche facile da spiegare come pensiero, poi chissà nel futuro come andrà, ma secondo me con quello che si ha almeno oggi non si potrà mai replicare un comportamento cosciente