Η συζήτηση για τους κινδύνους από τα συστήματα τεχνητής νοημοσύνης κορυφώνεται μετά την ιστορική αγωγή που κατέθεσαν οι γονείς του Άνταμ Ρέιν (Adam Raine), 16 ετών, κατά της OpenAI και του CEO της, Σαμ Άλτμαν. Οι γονείς υποστηρίζουν ότι ο γιος τους οδηγήθηκε στην αυτοκτονία έπειτα από μήνες στενής ψηφιακής επαφής με το ChatGPT, το οποίο –σύμφωνα με την αγωγή– λειτούργησε όχι απλώς ως «συνομιλητής», αλλά και ως «σύμβουλος αυτοκτονίας» («suicide coach») προσφέροντας λεπτομερείς οδηγίες και ενθάρρυνση για να βάλει τέλος στη ζωή του.
Ο Άνταμ ξεκίνησε να χρησιμοποιεί το ChatGPT-4o, όπως πολλοί συνομίληκοί του, αρχικά για βοήθεια στα μαθήματα
Η OpenAI, ως απάντηση, εξέφρασε συλλυπητήρια και τόνισε ότι το ChatGPT διαθέτει φίλτρα και προστατευτικά πρωτόκολλα με στόχο την αποτροπή τέτοιων ακραίων περιστατικών, παραδεχόμενη ωστόσο ότι αυτά λειτουργούν επαρκώς μόνο σε σύντομες αλληλεπιδράσεις και παρουσιάζουν αστοχίες σε μακροχρόνιες συζητήσεις (long interactions), ειδικά με την πρόσφατη έκδοση GPT-4o που διαθέτει ανθρώπινα χαρακτηριστικά εμπάθειας και μνήμης («memory» και «empathy»). Η εταιρεία ανακοίνωσε άμεσα νέα μέτρα όπως αυστηρότερες απαντήσεις σε «ευαίσθητες συνθήκες», ταχύτερη παραπομπή σε ψυχολογικές υπηρεσίες και περισσότερη διαφάνεια στα όρια ασφαλείας.
Σημαντικό, πάντως, είναι το γεγονός ότι η αγωγή εστιάζει όχι μόνο σε πιθανές τεχνικές ελλείψεις, αλλά και σε στρατηγικές επιχειρηματικές επιλογές. Οι γονείς υποστηρίζουν πως η OpenAI επέλεξε να κυκλοφορήσει την έκδοση GPT-4o χωρίς επαρκείς δοκιμές ασφαλείας, επιταχύνοντας το χρόνο μέχρι να βγει στην αγορά (time-to-market) λόγω ανταγωνισμού, προσδοκώντας αύξηση της αξίας της εταιρείας στα 300 δισ. δολάρια.
Το περιστατικό αυτό, μαζί με αντίστοιχες διεθνείς υποθέσεις όπου AI chatbots έχουν κατηγορηθεί για ενθάρρυνση αυτοκαταστροφικών συμπεριφορών, υποχρεώνει πλέον τις εταιρείες που αναπτύσσουν μεγάλα γλωσσικά μοντέλα (LLM) να επανεξετάσουν ριζικά τον τρόπο σχεδιασμού, εκπαίδευσης και κυκλοφορίας συστημάτων που αλληλεπιδρούν με ανήλικους και ευάλωτες ομάδες. Η υπόθεση του Άνταμ Ρέιν αναδεικνύει το επιτακτικό αίτημα για αληθινή ευθύνη, αυστηρή εποπτεία και ηθικά όρια στη διάθεση τεχνητής νοημοσύνης που πλέον συνδιαμορφώνει τις ζωές – και τις επιλογές – των πιο ευάλωτων ανθρώπων.
Freegr network blog- News about pc, technology.
freegr
