PRIMA DI PREMERE PLAY
Di cosa si parla
Nota editoriale AI di AskMontyFonte consultata:
Da un'esperienza in escape room, Montemagno passa alla domanda se esseri umani limitati possano controllare un'AI più capace di loro. Discute previsioni sull'AGI, percezione di empatia nei chatbot e rischi di applicazioni specializzate, anche prima di una superintelligenza. Richiama la ricerca sulla supervisione di sistemi forti da parte di sistemi deboli, concludendo che esistono tentativi e percorsi graduali, ma nessuna soluzione certa.
Punti principali
- Il confronto con l'AI dovrebbe considerare limiti reali delle persone, non un essere umano ideale.
- Capacità specifiche possono creare rischi rilevanti senza richiedere un'intelligenza generale.
- La ricerca sull'allineamento viene presentata come problema aperto, accompagnato da metafore illustrative.
