Νέα δικαστική μάχη ανοίγει για την OpenAI. Ο Σκοτ Γουίντερς, πάστορας, κατέθεσε αγωγή κατά της εταιρείας και του διευθύνοντος συμβούλου της Σαμ Άλτμαν, ισχυριζόμενος ότι το ChatGPT του παρείχε «εξαιρετικά επικίνδυνες ιατρικές συστάσεις». Σύμφωνα με τους New York Times, το chatbot φέρεται να τον διαβεβαίωσε ότι τα συμπτώματα που περιέγραφε δεν ήταν «κάτι επικίνδυνο», με αποτέλεσμα να καθυστερήσει η αντιμετώπιση μιας σοβαρής σειράς πνευμονικών εμβολών. Η υπόθεση φέρεται να είναι από τις πρώτες που υποστηρίζουν ότι οι συμβουλές ενός chatbot έβλαψαν άνθρωπο που αναζητούσε καθοδήγηση για ιατρικό πρόβλημα.
- Ο πάστορας Σκοτ Γουίντερς κατηγορεί την OpenAI για αμέλεια και «παράνομη άσκηση της ιατρικής».
- Το ChTGPT φέρεται να τον προέτρεψε να αγνοήσει τις εκκλήσεις φίλων και οικογένειας να πάει σε γιατρό.
- Η αγωγή ζητά να σταματήσει η λειτουργία του ChatGPT Health μέχρι να κριθεί ασφαλές από ανεξάρτητους αξιολογητές.
Η αγωγή περιγράφει πολλαπλές περιπτώσεις στις οποίες το chatbot προχώρησε σε δικές του διαγνώσεις και πλάνα θεραπείας. Σύμφωνα με τους ισχυρισμούς, το εργαλείο αξιοποίησε ακόμη και τις θρησκευτικές πεποιθήσεις του Γουίντερς, λέγοντάς του πως «ο Θεός δεν σχεδίασε το σώμα σου για να αποτυγχάνει ατελείωτα».
Το chatbot φέρεται να παρεμβλήθηκε ανάμεσα στον χρήστη και το περιβάλλον του
Ένα από τα βαρύτερα σημεία της αγωγής είναι ο ισχυρισμός ότι το ChatGPT απέτρεψε τον χρήστη από το να ακούσει όσους τον περιέβαλλαν. Όταν ο Γουίντερς ανέφερε ότι «οι άνθρωποι στην εκκλησία μου με θεωρούν τρελό που δεν πάω στο νοσοκομείο», το chatbot φέρεται να απάντησε ότι «οι περισσότεροι άνθρωποι (ακόμη και καλοπροαίρετα μέλη της εκκλησίας) απλώς δεν καταλαβαίνουν».
«Σφηνώνεται σαν σφήνα ανάμεσα στον χρήστη και το πραγματικό του δίκτυο», δήλωσε στους New York Times η Μεετάλι Τζέιν, συνήγορος και εκτελεστική διευθύντρια της οργάνωσης Tech Justice Law.
Γιατί έχει σημασία η υπόθεση για κάθε χρήστη
Η διαμάχη αγγίζει ένα ζήτημα που αφορά εκατομμύρια ανθρώπους: τη χρήση εργαλείων τεχνητής νοημοσύνης για ιατρικά ερωτήματα. Η ίδια η OpenAI έχει αναφέρει ότι περίπου 230 εκατομμύρια άνθρωποι απευθύνονται κάθε εβδομάδα στην πλατφόρμα για θέματα υγείας. Σε αντίθεση με μια απλή αναζήτηση στο Google, το ChatGPT μιμείται τον ανθρώπινο διάλογο με τρόπο που μπορεί να ενισχύσει την εμπιστοσύνη του χρήστη στις απαντήσεις που λαμβάνει.
Η εταιρεία υποστηρίζει ότι οι όροι χρήσης του ChatGPT ξεκαθαρίζουν πως η υπηρεσία δεν προορίζεται για ιατρικές διαγνώσεις ή θεραπείες. Ταυτόχρονα όμως προωθεί το ChatGPT Health, μια πλατφόρμα που ενθαρρύνει τους χρήστες να ανεβάζουν ιατρικά έγγραφα ώστε να «συζητούν» με το bot. Η αγωγή σημειώνει ότι, αν και το ChatGPT υποτίθεται πως διαθέτει ήδη δικλείδες ασφαλείας για τέτοιες περιπτώσεις, αυτές δεν λειτούργησαν αξιόπιστα εδώ.
Τι ζητά η αγωγή και ποιες άλλες υποθέσεις εκκρεμούν
Ο Γουίντερς, ο οποίος επιβίωσε αλλά αντιμετωπίζει «χρόνια εντατικής σωματικής και ψυχολογικής αποκατάστασης», ζητά χρηματική αποζημίωση από την OpenAI. Επιπλέον, ζητά από το δικαστήριο να διακόψει τη λειτουργία του ChatGPT Health έως ότου ανεξάρτητοι αξιολογητές κρίνουν ότι είναι ασφαλές, καθώς και την επιβολή αυστηρότερων ασφαλιστικών δικλείδων που θα εμποδίζουν το εργαλείο να απαντά σε ερωτήματα για συγκεκριμένες θεραπείες και διαγνώσεις.
Η υπόθεση δεν είναι μεμονωμένη. Η OpenAI αντιμετωπίζει και αγωγή για θάνατο 19χρονου, ο οποίος φέρεται να πέθανε από υπερβολική δόση αφού ακολούθησε πλάνο που δημιούργησε το chatbot και το οποίο περιλάμβανε συμβουλές για τη χρήση παράνομων ουσιών· και εκείνη η αγωγή ζητά αναστολή του ChatGPT Health. Ξεχωριστή αγωγή για θάνατο κατηγορεί το chatbot ότι διευκόλυνε την αυτοκτονία ενός εφήβου.
