Έχετε πονοκέφαλο ή μήπως είναι ιγμορίτιδα; Μήπως πρέπει να ανησυχήσετε για τον πόνο στο στήθος σας; Σήμερα, αν «γκουκλάρετε» αυτά τα ερωτήματα, οι απαντήσεις ίσως έχουν συνταχθεί από τεχνητή νοημοσύνη. Η Google παρουσίασε μια νέα λειτουργία που ονομάζεται AI Overviews, η οποία χρησιμοποιεί παραγωγική ΑΙ, έναν τύπο τεχνολογίας μηχανομάθησης που εκπαιδεύεται με πληροφορίες από το Διαδίκτυο και παράγει απαντήσεις σε ερωτήσεις αναζήτησης μέσα σε λίγα δευτερόλεπτα.
Οι χρήστες της υπηρεσίας συνάντησαν μεγάλο αριθμό ανακριβειών και περίεργων απαντήσεων σε διάφορα θέματα. Οσον αφορά όμως τον τρόπο με τον οποίο απαντά σε ερωτήσεις που αφορούν την υγεία, οι ειδικοί είπαν ότι το διακύβευμα ήταν ιδιαίτερα σοβαρό. Η τεχνολογία θα μπορούσε να υποδείξει στον χρήστη την απαραίτητη ιατρική φροντίδα, αλλά υπάρχει το ενδεχόμενο να δώσει ανακριβείς πληροφορίες. Η ΑΙ μπορεί κάποιες φορές να κατασκευάσει δεδομένα. Και αν οι απαντήσεις της προκύψουν από ιστότοπους που δεν έχουν επιστημονική τεκμηρίωση, μπορεί να παρέχει συμβουλές που είναι αντίθετες με τις ιατρικές οδηγίες ή ενέχουν κίνδυνο για την υγεία του ατόμου.
Το σύστημα έχει ήδη δείξει ότι παράγει λανθασμένες απαντήσεις που φαινομενικά βασίζονται σε εσφαλμένες πηγές. Οταν ρωτήθηκαν, για παράδειγμα, για θέματα διατροφής, τα AI Overviews συμβούλεψαν κάποιους χρήστες να τρώνε τουλάχιστον μία πέτρα την ημέρα για τις απαραίτητες βιταμίνες και μέταλλα. (Η συμβουλή είχε ληφθεί από το The Onion, έναν σατιρικό ιστότοπο.)
«Δεν μπορείτε να εμπιστεύεστε ό,τι διαβάζετε», λέει ο δρ Καράντιπ Σινγκ, επικεφαλής της τεχνητής νοημοσύνης για την υγεία στο UC San Diego Health. Οσον αφορά την υγεία, λέει, η πηγή των πληροφοριών έχει καθοριστική σημασία.
Πρόσθετες δικλίδες
H Χέμα Μπουνταράτζου, γενική διευθύντρια διαχείρισης παραγωγής της Google, και υπεύθυνη για την καθοδήγηση των εργασιών για τα AI Overviews, είπε ότι οι αναζητήσεις για την υγεία έχουν «πρόσθετες προστατευτικές δικλίδες», αλλά απέφυγε να τις περιγράψει λεπτομερώς. Οι αναζητήσεις που θεωρούνται επικίνδυνες, έχουν γραφικές περιγραφές ή δείχνουν ότι κάποιος βρίσκεται σε ευάλωτη κατάσταση, όπως οι περιπτώσεις αυτοτραυματισμού, δεν ενεργοποιούν περιλήψεις ΑΙ, ανέφερε.
Η Google αρνήθηκε να παράσχει λεπτομερή κατάλογο των ιστότοπων που υποστηρίζουν τις πληροφορίες των AI Overviews, αλλά δήλωσε ότι το εργαλείο λειτουργεί σε συνδυασμό με το Google Knowledge Graph, ένα ήδη υπάρχον σύστημα πληροφοριών που αντλεί δισεκατομμύρια δεδομένα από εκατοντάδες πηγές.
Οι νέες απαντήσεις αναζήτησης προσδιορίζουν κάποιες πηγές: για ερωτήσεις σχετικά με την υγεία, πρόκειται συνήθως για ιστότοπους όπως η Mayo Clinic, το WebMD, ο Παγκόσμιος Οργανισμός Υγείας και η πλατφόρμα επιστημονικών ερευνών PubMed. Δεν είναι ωστόσο πλήρης αυτός ο κατάλογος: το εργαλείο μπορεί επίσης να αντλήσει από τη Wikipedia, από αναρτήσεις σε μπλογκ, στο Reddit και από ιστότοπους ηλεκτρονικού εμπορίου. Και δεν αναφέρει ποια δεδομένα προέρχονται από ποιες πηγές.