Dottor Google? L’intelligenza artificiale può essere un medico tascabile, ma il capo della salute dell’azienda invita alla cautela sui suoi limiti Google

TL’arrivo dell’intelligenza artificiale nel settore sanitario significa che un giorno tutti potrebbero avere un medico in tasca, ma il chief health officer di Google ha esortato alla cautela su ciò che l’IA può fare e quali dovrebbero essere i suoi limiti.

“Ci sarà un’opportunità per le persone di avere un migliore accesso ai servizi [and] hanno bisogno di servizi di alta qualità”, ha detto la dottoressa Karen DiSalvo a Guardian Australia in un’intervista la scorsa settimana.

“Ma siamo un modo per arrivarci. Abbiamo molte cose su cui lavorare per assicurarci che i modelli siano vincolati in modo appropriato, che siano realistici e coerenti e che seguano questi approcci etici e correlati all’equità che vorremmo seguire, ma sono molto entusiasta del potenziale anche come medico”.

DeSalvo, ex funzionario sanitario dell’amministrazione Obama, è a capo di Google Health dal 2021 e ha visitato l’Australia per la prima volta nel suo ruolo la scorsa settimana. Ha detto che l’intelligenza artificiale sarebbe uno “strumento nella cassetta degli attrezzi” per i medici e potrebbe aiutare a sostenere la carenza di forza lavoro e migliorare la qualità dell’assistenza per le persone. Ha aggiunto che colmerebbe le lacune piuttosto che sostituire i medici.

“Come medico devo dire a volte, ‘Oh mio Dio, c’è questo nuovo stetoscopio nella mia cassetta degli attrezzi chiamato Big Language Model, e farà un sacco di cose incredibili.'” Ma non sostituirà i medici, penso che sia uno strumento nella cassetta degli attrezzi”.

La settimana scorsa, Google Studio di ricerca pubblicato sulla rivista Nature ha analizzato come i grandi modelli linguistici (LLM) possono rispondere a domande mediche, con il proprio Med-PaLM LLM incluso nello studio.

Agli LLM sono state fornite 3.173 delle domande mediche più frequentemente cercate online e i risultati hanno mostrato che il sistema Med-PaLM ha prodotto risposte alla pari con le risposte dei medici il 92,9% delle volte. Le risposte sono state classificate come potenzialmente dannose al 5,8%. Gli autori hanno affermato che era necessaria un’ulteriore valutazione.

È ancora nella “fase di test e apprendimento”, ha detto DeSalvo, ma i LLM possono essere i migliori tirocinanti del medico mettendo a portata di mano tutti i libri di testo del mondo.

“Sono nel campo di, qui c’è del potenziale e dobbiamo essere audaci quando pensiamo ai potenziali usi per aiutare le persone in tutto il mondo”.

Ma ha detto che non dovrebbe mai sostituire gli esseri umani nella diagnosi e nel trattamento dei pazienti, osservando che ci sarebbero preoccupazioni per potenziali diagnosi errate, poiché i primi LLM sono vulnerabili alle cosiddette “allucinazioni dell’IA” che costituiscono il materiale di partenza per adattarsi alla risposta desiderata.

“Una delle cose su cui ci concentriamo veramente in Google è l’ottimizzazione del modello e il vincolo del modello in un modo che lo renda realistico”, ha affermato. “Che sia per un medico o per un paziente, non vuoi un sonetto sulla tua chemioterapia, vuoi sapere cosa dice la letteratura [and] È corretto?”

L’obiettivo finale, ha affermato DeSalvo, è affrontare lo squilibrio informativo tra l’industria medica e il pubblico e mettere quanto più potere possibile nelle mani dei pazienti.

“L’informazione è un fattore determinante per la salute. E inizia quando le persone comprendono e conoscono una potenziale condizione… Vogliamo assicurarci che le persone abbiano tale conoscenza e azione”, ha affermato.

“Quando mi allenavo, mi piaceva quando [patients] Mi sono presentato con i fogli stampati o un quaderno a spirale con tutta la roba di glucosio scritta nelle righe, e abbiamo potuto avere una vera conversazione”.