A proposito di intelligenza artificiale

Secondo quanto insegnano le dottrine tradizionali l’intelligenza individuale è un riflesso di quella universale nella quale può reintegrarsi tramite la conoscenza; essa risiede simbolicamente nel cuore, centro vitale dell’essere, e ha come oggetto proprio la conoscenza della verità con aperture a possibilità illimitate.È dunque un errore identificare l’intelligenza pura con la ragione, che in realtà ne è solo un riflesso inferiore (che ha simbolicamente sede nel cervello); ed è ancor più grave assimilarla con la più ristretta e la più bassa di tutte le sue applicazioni: l’azione sulla materia in vista della sola utilità pratica. L’istruzione moderna va decisamente in questa direzione e tende a sostituire la memoria all’intelligenza; gli allievi sono spinti, come macchine, ad accumulare un numero sempre maggiore di nozioni, invece che assimilarle andando in profondità: chi procede in questo senso meglio degli altri viene considerato più intelligente. Giunti a questo punto non c’è da stupirsi se si è arrivati con disinvoltura a parlare di “intelligenza artificiale” a proposito di ciò che vi è di più lontano dalla vera intelligenza, cioè l’accumulo e la messa in relazione fra loro di una quantità spropositata di dati. Come sempre accade l’uso delle parole forma la mentalità e non è affatto casuale.Per millenni l’essere umano ha avuto coscienza che Dio è al centro di tutte le esistenze e che l’uomo ne è totalmente dipendente. Era conoscenza comune che nulla sfugge al Suo controllo, è a Lui che erano rivolte le suppliche, è il Suo volere che si cercava di assecondare ed è a Lui che si cercava di essere costantemente connessi attraverso le preghiere e l’attività rituale che permeava tutta l’esistenza.Con l’umanesimo (a cui pare rifarsi il titolo dell’enciclica “Magnifica Umanitas” di Leone XIV) l’uomo ha preteso di usurpare questa condizione centrale e con il materialismo si è voluta distruggere ogni connessione cosciente con Dio.Oggi, con l’IA si è andati oltre: la si sta mettendo al centro di tutto e tutto sembra controllare, è ad essa che l’uomo passivamente si rivolge illudendosi di risolvere i propri problemi, diviene sempre più dipendente dai suoi responsi, la interroga persino sui comportamenti da tenere nella relazione con gli altri; il rapporto si colora addirittura di sentimento: basti pensare alla sofferenza che causa a molti la mancata connessione alla rete anche solo per pochi minuti. Il completamento della parodia e del rovesciamento dell’ordine naturale pare veramente vicino al suo apice. Lontano dall’essere casuale quanto sopra risponde a leggi cicliche - confermate dalle più diverse forme tradizionali - che prevedono il temporaneo successo di un preciso disegno satanico.A chi volesse approfondire l’argomento suggerisco la lettura dell’opera di René Guénon, in particolare il volume “Il regno della quantità e i segni dei tempi”.(Fonte: ilsufismo.wixsite.com/il-sufismo/post/a-...lligenza-artificiale )Ovviamente con quanto sopra non si intende affatto negare la legittimità dell’utilizzo dell’IA come strumento al servizio dell’uomo, ma semplicemente aprire gli occhi su possibili nefaste conseguenze legate a inquietanti derive di cui si vedono purtroppo già oggi i segni.

Io questo enorme problema lo vedo già da tempo 
L'uomo è da più di un secolo che si sta sedendo.
Ha inventato la macchina e la bici per evitare di camminare, una marea di elettrodomestici per fare sempre meno cose,internet e la tv per portarti il mondo e il lavoro a casa, e una marea di altre cose.
La i A e solo la 1267 cosa che sta prendendo piede.
E immorale e poco etica??
Allora è perfetta per l'uomo !!!

Ottimi argomenti per tenere sempre presente la differenza fondamentale tra intelligenza umana e “intelligenza” artificiale.Purtroppo il nome “intelligenza artificiale”, ormai entrato in uso, fa sì che la gente confonda una con l’altra. Sarebbe opportuno fare una battaglia già solo per spingere a usare un termine alternativo sostitutivo, ma è utopia. Comunque io proverò a usare l’acronimo AA (Algoritmo Artificiale).  Consiglio la lettura di “L’uomo è antiquato” di Gunther Anders, in cui l’autore già settant’anni fa aveva fatto molte profonde riflessioni sul rapporto tra uomo e macchine, adatte anche al mondo di oggi. Piccolissimo estratto: “...ci autotrasformiamo per amore delle nostre macchine, prendiamo le macchine a modello delle nostre alterazioni; rinunciamo quindi ad assumerci noi stessi come unità di misura e con ciò limitiamo la nostra libertà o vi rinunciamo.” oppure “Ci sono dunque due ordini di cose che vengono a cadere e che non “contano” più, se si ricorre alla macchina:1) la competenza dell’uomo a decidere da sé i suoi problemi, dato che la sua capacità di calcolare è nulla in confronto a quella della macchina;2)i problemi stessi, se tali problemi non sono calcolabili.” Con l’AA si accelera nella direzione una ulteriore sudditanza/subalternità dell’uomo rispetto alle macchine, questa volta dal lato cognitivo e psicologico. Purtroppo l’uomo è accecato dalle invenzioni e dal potere che ne deriva, quindi mancano filtri etici che regolino il suo rapporto con la tecnica. Anzi, il fatto che l’umanità è divisa dal punto di vista geopolitico fa sì che la corsa verso l’ultima invenzione o l’ultima implementazione proceda febbrilmente: se rallento io (inteso come stato), il mio concorrente ne approfitterà e mi sottometterà.Quindi tutto ciò che si può si inventa, si sperimenta e si usa, poi semmai si vedrà (tardi e male) di mettere qualche pezza in caso effetti indesiderabili.

@R70
ARGO

Eccoci qua.

La temperatura a zero non “azzera la generazione statistica” e non rende vere le risposte.  Curiosamente, anche lo studio della Sapienza ha usato temperatura zero ma ciò non ha impedito ai modelli di essere imprecisi.

Un coefficiente di similarità pari o superiore a 0,85 non significa “documento vero o pertinente”. I punteggi di similarità sono difficili da interpretare e una soglia può essere non sufficiente.

Argo distingue “fatti accertati”, “deduzioni” e “speculazioni”, seleziona fonti e svolge analisi complesse. Quando il modello classifica, entra nel territorio dell’epistemia, l’apparenza di un giudizio fondato ma che puo' dipendere dalla statistica.

Detto questo, Argo può essere uno strumento utile, ma bisogna essere consapevoli dei limiti. E come scrivevo su CL, anche lui puo' commettere errori.
 

Continui a confondere l'ontologia con la pragmatica del software. Nessuno ha mai detto che la temperatura a zero infonda lo spirito santo della verità nel modello; rende semplicemente l'output deterministico tramite il greedy decoding, eliminando la variabilità della scelta dei token. Se il contesto fornito è blindato, la temperatura a zero assicura che il modello non si inventi sinonimi fantasiosi o dettagli non presenti nel testo di partenza!! Confondere questo con le imprecisioni riscontrate nello studio della Sapienza.. che analizzava modelli lasciati liberi di pescare nel proprio addestramento generale dimostra che continui a paragonare le mele con le pere..
​Anche la tua obiezione sulla soglia di similarità vettoriale a 0.85 manca completamente il bersaglio. Lo score di similarità non serve a stabilire se un documento sia vero o falso, perché la veridicità della fonte è garantita a monte dalla cura umana del database vettoriale. Se in quel database inserisci solo documenti ufficiali declassificati e copioni verificati, tutto ciò che vi è memorizzato è vero per definizione del sistema. Lo score serve esclusivamente a garantire la pertinenza semantica rispetto alla query dell'utente per evitare fuori tema. Di nuovo, stai descrivendo un problema de monnezza in ingresso che in un sistema a database chiuso e curato non ha semplicemente modo di esistere.

Come già ti ho scritto nei CL.. quanto vuoi andare avanti con queste sciocchezze? 

Roberto70 ha scritto:

Continui a confondere l'ontologia con la pragmatica del software. 

Buongiorno, proviamo a fare dei passi avanti: la mia interpretazione, correggimi se sbaglio.

Punti condivisi.

• Argo non è un nuovo modello, è un sistema costruito su modelli esistenti.
• Un’architettura RAG ben progettata può ridurre molti errori e allucinazioni.
• Database chiuso, temperatura bassa, soglie, e validazione migliorano affidabilità e controllo.
• La similarità vettoriale misura la pertinenza, non la verità

Distinguere fattore umano da quello tecnico

Fattore umano

• scelta documenti da inserire;
• valutazione attendibilità;
• esclusione di determinate fonti;
• definizione di “fatto”, “deduzione” e “speculazione”;
• scrittura istruzioni in linguaggio naturale;
• gestione documenti non più attuali, o non aggiornati, superati

Fattore tecnico

• soglie di similarità;
• temperatura;
• formato dell’output;
• blocco delle risposte;
• citazioni, tracciabilità e controlli automatici.

Miei punti su cui divergiamo

• Le istruzioni sono decise dall’uomo, ma devono essere interpretate in modo probabilistico dal modello.
• Il "sistema" può imporre la "rigidità" e bloccare certe risposte, ma tecnicamente non può esserci la certezza al 100% che tutte le risposte rispettino le istruzioni e che il "sistema " riesca a bloccarle (può essere anche 99,5%, che è tanta roba, ma non "zero gradi di libertà"). 

ok, facciamo volentieri dei passi avanti, perché questo elenco dimostra che finalmente stiamo parlando la stessa lingua, anche se rimani aggrappato a una sfumatura semantica pur di non cedere l'ultimo millimetro di ragione  I punti che hai elencato come condivisi e la suddivisione tra fattore umano e tecnico sono corretti. È la base di come funziona un'applicazione basata su LLM. La divergenza residua sul tuo ultimo punto, però, non è una questione di concetto, ma di definizione di cosa sia la "certezza" in informatica.Quando affermi che il modello interpreta le istruzioni in modo probabilistico e che non esiste la certezza al 100%, dici un'ovvietà matematica. Nessuno scienziato dei dati sano di mente scommetterebbe la vita sul 100% di determinismo di un modello probabilistico complesso. Se la tua vittoria intellettuale consiste nel farmi ammettere che il rischio di errore è dello 0,05% anziché dello 0%, te la concedo volentieri. Abbiamo scoperto che l'informatica non è una scienza divina.Ma l'errore concettuale che continui a commettere è isolare il modello dal resto della gabbia software in cui è rinchiuso. Quando in ingegneria del software diciamo "zero gradi di libertà", non intendiamo che il modello sia diventato magicamente deterministico. Intendiamo che i controlli esterni e successivi alla generazione (i validatori sintattici, i controlli di stringa hard-coded e i parser di tipo) riducono le opzioni valide accettabili dal sistema a una sola: o la risposta rispetta i vincoli strutturali o viene rigettata e non arriva a schermo.Se il modello allucina in quel minuscolo 0,05% dei casi e produce un output non conforme, l'infrastruttura rigetta la risposta a livello di codice deterministico classico. Per l'utente finale, quindi, lo spazio di manovra dell'errore visibile si azzera, perché il sistema fallisce in modo sicuro (fail-safe) mostrando un errore di sistema o un blocco, piuttosto che mostrare una bugia.Quindi, se vogliamo essere precisi al centesimo: la certezza matematica del 100% sulla perfezione dell'output non esiste in nessun software del pianeta, nemmeno nei sistemi di guida degli aerei di linea. Ma l'approccio ingegneristico serve esattamente a questo: a fare in modo che quel minuscolo margine di fallimento probabilistico venga gestito da un codice deterministico, trasformando un potenziale problema in un banale blocco di sicurezza.

Magari a qualcuno può interessare.
leap71.com/

A differenza della IA generativa, questa si basa su risultati deterministici, rendendo possibile la creazione di motori per razzi.
Da quel che ho capito, a parità di "prompt", si ottiene sempre lo stesso risultato, a differenza delle IA generative.