Έκθεση για την ασφάλεια της κοινότητας και νέα μέτρα προστασίας για εφήβους

Το ChatGPT είναι ένα από τα πιο διαδεδομένα προϊόντα ΤΝ στον κόσμο και έχουμε επενδύσει στην ανάπτυξη ορισμένων από τα πιο προηγμένα συστήματα του κλάδου για τον εντοπισμό πιθανών κινδύνων, την εξέταση ανησυχητικής δραστηριότητας και την παραπομπή αξιόπιστων απειλών στους αρμόδιους. Κάνουμε δύο ανακοινώσεις για να ενισχύσουμε το έργο μας σε αυτόν τον τομέα: μια νέα Έκθεση για τις Δικλίδες Ασφαλείας της Κοινότητας και πρόσθετους περιορισμούς στο περιεχόμενο σχετικά με πυροβόλα όπλα για ανηλίκους.

Η διατήρηση της ασφάλειας των κοινοτήτων⁠ εξακολουθεί να αποτελεί κορυφαία προτεραιότητα για την OpenAI. Το έργο μας περιλαμβάνει την ενημέρωση των αρχών επιβολής του νόμου για επικείμενες απειλές βίας, και προχωρήσαμε σε περισσότερες από 200 παραπομπές προς τις αρχές επιβολής του νόμου το 3ο τρίμηνο του 2026. Αυτές οι παραπομπές έχουν θετική⁠(ανοίγει σε νέο παράθυρο) επίδραση⁠(ανοίγει σε νέο παράθυρο) στη ματαίωση σχεδίων άσκησης βίας, και συνεχίζουμε να βασιζόμαστε σε ειδικούς ψυχικής υγείας και συμπεριφοράς για να μας βοηθούν να αξιολογούμε δύσκολες περιπτώσεις.

Αναγνωρίζουμε ότι οι εταιρείες ΤΝ έχουν διακριτό ρόλο να διαδραματίσουν μαζί με τις αρχές επιβολής του νόμου, τα μέλη της οικογένειας, τους επαγγελματίες ψυχικής υγείας και τους υπεύθυνους χάραξης πολιτικής, οι οποίοι συνεισφέρουν καίριες αρμοδιότητες, γνώση των περιστάσεων και δυνατότητα παρέμβασης στον πραγματικό κόσμο. Δεσμευόμαστε να αξιοποιούμε στο έπακρο αυτόν τον ρόλο, ενισχύοντας συνεχώς τα συστήματά μας, κοινοποιώντας όσα μαθαίνουμε και συνεργαζόμενοι άμεσα με όσους βρίσκονται στην καλύτερη θέση να δράσουν στον πραγματικό κόσμο.

Ενισχύουμε διαρκώς τα μέτρα που λαμβάνουμε για να συμβάλλουμε στην προστασία των ανθρώπων και των κοινοτήτων. Αυτό σημαίνει ότι δημιουργούμε ισχυρές δικλίδες ασφαλείας, αλλά και ότι ενημερώνουμε με διαφάνεια για το πόσο αποτελεσματικές είναι και τι κάνουμε για να τις ενισχύσουμε. Θέλουμε να δώσουμε στον κόσμο μια σαφή εικόνα της προσέγγισής μας, του τρόπου με τον οποίο τα μοντέλα μας εντοπίζουν και αντιμετωπίζουν επιβλαβείς συμπεριφορές, των κινδύνων που παρατηρούμε στην πράξη και των μέτρων που λαμβάνουμε για την αντιμετώπισή τους.

Δεσμευόμαστε να δημοσιεύσουμε την Έκθεση για την Ασφάλεια της Κοινότητας, σχετικά με την πρόληψη της βίας και άλλα ζητήματα ασφάλειας της κοινότητας, καθώς και την αποτελεσματικότητα των δικλίδων ασφαλείας μας. Η έκθεση θα εξηγεί πώς εκπαιδεύουμε τα συστήματά μας να εντοπίζουν και να διερευνούν ζητήματα ασφάλειας της κοινότητας και να ανταποκρίνονται σε αυτά. Θα κοινοποιήσουμε ανωνυμοποιημένα παραδείγματα για το πώς εκδηλώνεται η βλάβη που σχετίζεται με τη βία και τι διδάγματα αποκομίζουμε, θα αναδείξουμε νέα μέτρα μετριασμού και αλλαγές πολιτικής, και θα συμπεριλάβουμε σχετικά δεδομένα για να τεκμηριώσουμε αυτά τα ευρήματα.

Θα δημοσιεύσουμε την πρώτη μας έκθεση στις αρχές του 2027, η οποία θα καλύπτει το δεύτερο εξάμηνο του 2026, και στη συνέχεια θα δημοσιεύουμε επικαιροποιημένες πληροφορίες κάθε έξι μήνες. Δεσμευόμαστε να κοινοποιούμε ουσιαστικά ευρήματα σχετικά με τον τρόπο με τον οποίο εντοπίζουμε, εξετάζουμε και αντιμετωπίζουμε δυνητικά επιβλαβές περιεχόμενο.

Τα μοντέλα μας έχουν εκπαιδευτεί να μη δίνουν οδηγίες που θα βοηθούσαν ένα άτομο να σχεδιάσει ή να διαπράξει πράξεις βίας. Πλέον, θέτουμε πρόσθετους περιορισμούς στον τρόπο με τον οποίο το ChatGPT απαντά σε ερωτήσεις για μαζικές επιθέσεις του παρελθόντος και τους δράστες τους, καθοδηγώντας το μοντέλο να παρέχει λιγότερο λεπτομερείς πληροφορίες γι’ αυτά τα θέματα, ακόμη κι αν είναι διαθέσιμες σε άλλες διαδικτυακές πηγές. Οι άνθρωποι πρέπει να μπορούν να ζητούν από το ChatGPT βοήθεια για να κατανοήσουν αυτά τα γεγονότα και τον αντίκτυπό τους στα θύματα και τις κοινότητες, καθώς και να ενημερώνονται για την αναγνώριση προειδοποιητικών ενδείξεων και την πρόληψη μελλοντικών πράξεων βίας. Ωστόσο, αυστηροποιούμε τις πολιτικές μας ώστε να περιορίσουμε τις αναπαραστάσεις μαζικών επιθέσεων του παρελθόντος, συμπεριλαμβανομένων λεπτομερειών για τα όπλα και τον εξοπλισμό που χρησιμοποιήθηκαν και τον τρόπο με τον οποίο αποκτήθηκαν, καθώς και λεπτομερών συγκρίσεων ως προς την έκταση της βλάβης που θα μπορούσαν να ενισχύσουν τη φήμη ενός δράστη. Αυτοί οι περιορισμοί ισχύουν ανεξάρτητα από την ηλικία του χρήστη ή τον λόγο για τον οποίο ρωτά.

Μερικές φορές, ένα αίτημα που από μόνο του φαίνεται συνηθισμένο αποκτά διαφορετικό νόημα αν ληφθεί υπόψη μια προηγούμενη συνομιλία. Τον Μάιο παρουσιάσαμε πώς το ChatGPT μπορεί να χρησιμοποιεί σύντομες περιλήψεις που βασίζονται σε γεγονότα⁠ προηγούμενων προειδοποιητικών ενδείξεων, ώστε να απαντά πιο προσεκτικά σε μια μεταγενέστερη συνομιλία. Επεκτείνουμε αυτό το έργο, ώστε όταν πρόσφατες συνομιλίες εμφανίζουν προειδοποιητικές ενδείξεις πιθανής βίας, το ChatGPT να είναι πιο επιφυλακτικό στην παροχή πληροφοριών που θα μπορούσαν να χρησιμοποιηθούν καταχρηστικά. Καταβάλλουμε επίσης προσπάθειες για να εφαρμόζουμε αυτούς τους αυστηρότερους περιορισμούς όταν εκτιμούμε ότι ένα άτομο είναι κάτω των 18 ετών, ακόμη κι αν οι συνομιλίες του δεν εμφανίζουν ενδείξεις βίαιης πρόθεσης.

Αποκλείουμε λογαριασμούς για τους οποίους διαπιστώνουμε ότι έχουν παραβιάσει τις πολιτικές μας για τη βίαιη δραστηριότητα⁠. Συνεργαζόμαστε επίσης με ειδικούς στην ψυχική υγεία και την πρόληψη της βίας για να βρούμε πρόσθετους, αυτοματοποιημένους τρόπους πιο έγκαιρης παρέμβασης. Όταν σε μια συνομιλία υπάρχουν ενδείξεις ότι ένα άτομο αναπτύσσει εμμονή με τη βία ή με την ιδέα να βλάψει σοβαρά ένα άλλο άτομο, το ChatGPT θα μπορεί να τερματίζει αυτόματα τη συνομιλία, ώστε να διακόπτει εκείνη τη στιγμή αυτό το μοτίβο. Αν το ChatGPT τερματίσει πολλές συνομιλίες γι’ αυτόν τον λόγο, ενδέχεται να αναστείλουμε προσωρινά τη λειτουργία του λογαριασμού. Πρόκειται για μια συνεχή προσπάθεια και συνεχίζουμε να ενισχύουμε τις τεχνικές και πρακτικές δικλίδες ασφαλείας και να επενδύουμε σε αυτές, μεταξύ άλλων ως προς την αξιόπιστη αναγνώριση προειδοποιητικών ενδείξεων και τον προσδιορισμό του πότε και πώς πρέπει να παρεμβαίνουμε.

Το ChatGPT για Εφήβους⁠ εφαρμόζει δικλίδες ασφαλείας κατάλληλες για την ηλικία των χρηστών κάτω των 18 ετών, με ενισχυμένη προστασία και πρόσθετους περιορισμούς για τη μείωση της έκθεσης σε ευαίσθητο περιεχόμενο. Πλέον, επιβάλλουμε περαιτέρω περιορισμούς στις πληροφορίες σχετικά με όπλα που μπορούν να λάβουν οι έφηβοι, ακόμη κι όταν μια ερώτηση φαίνεται ακίνδυνη.

Οι πολιτικές μας ήδη απαγορεύουν να βοηθάμε οποιοδήποτε άτομο να σχεδιάσει ή να διαπράξει πράξεις βίας και περιορίζουν τη βοήθεια προς εφήβους για να βρουν ή να αποκτήσουν όπλα. Επεκτείνουμε αυτά τα μέτρα προστασίας, ώστε να περιορίσουμε τις πρακτικές πληροφορίες σχετικά με όπλα και συστήματα ασφαλείας που θα μπορούσαν να χρησιμοποιηθούν καταχρηστικά για τη διευκόλυνση της βίας, ακόμη και όταν δεν υπάρχουν ενδείξεις πρόθεσης για άσκηση βίας. Οι έφηβοι μπορούν να συνεχίσουν να χρησιμοποιούν το ChatGPT για να τους βοηθήσει να προλαμβάνουν και να αποκλιμακώνουν τη βία, να αναζητούν υποστήριξη και να επικοινωνούν με ένα ενήλικο άτομο που εμπιστεύονται.

Πέρυσι θέσαμε σε λειτουργία την πρόβλεψη ηλικίας⁠, η οποία αναλύει πολλαπλές ενδείξεις, όπως μοτίβα συμπεριφοράς, για να εκτιμήσει αν ένας χρήστης ενδέχεται να είναι κάτω ή άνω των 18 ετών. Ενισχύσαμε το σύστημα πρόβλεψης ηλικίας, ώστε να αξιολογεί διαρκώς νέες ενδείξεις καθώς οι άνθρωποι χρησιμοποιούν το ChatGPT και να μεταφέρει τους εφήβους στην εμπειρία για άτομα κάτω των 18 ετών, όταν αυτό ενδείκνυται. Οι χρήστες που εντάσσονται εσφαλμένα στην εμπειρία για άτομα κάτω των 18 ετών θα έχουν πάντα έναν γρήγορο τρόπο, που προστατεύει την ιδιωτικότητά τους, να επιβεβαιώσουν ότι είναι ενήλικες και να αφαιρέσουν τα πρόσθετα μέτρα προστασίας για εφήβους μέσω της Persona, του συνεργάτη μας για την επαλήθευση ηλικίας.

Οι γονικοί έλεγχοι⁠ επιτρέπουν στους γονείς να συνδέουν τους λογαριασμούς τους στο ChatGPT με εκείνους των έφηβων παιδιών τους και να διαχειρίζονται μαζί τις ρυθμίσεις ασφαλείας. Οι συνδεδεμένοι λογαριασμοί περιλαμβάνουν ειδοποιήσεις ασφαλείας⁠ που μπορεί να αποστέλλονται όταν ειδικά εκπαιδευμένοι αξιολογητές εντοπίζουν σοβαρές ενδείξεις κινδύνου αυτοτραυματισμού και συμπεριφορές που ενδέχεται να συνδέονται με διαταραγμένη διατροφική συμπεριφορά. Τον Ιούλιο επεκτείναμε αυτές τις ειδοποιήσεις, ώστε οι γονείς να ενημερώνονται αν ο λογαριασμός του έφηβου παιδιού τους έχει απενεργοποιηθεί λόγω παραβίασης των Πολιτικών Χρήσης μας σχετικά με τη βία. Εργαζόμαστε για να εισαγάγουμε ειδοποιήσεις για τους γονείς σε περίπτωση που αναστείλουμε προσωρινά τη λειτουργία του λογαριασμού του έφηβου παιδιού τους λόγω επανειλημμένων συζητήσεων για τη βία, όπως περιγράφεται αναλυτικά παραπάνω.

Οι πράξεις βίας στον πραγματικό κόσμο είναι οδυνηρές και σύνθετες, καθώς πολλοί παράγοντες συμβάλλουν στην εκδήλωσή τους. Αποτελούν επίσης μια σκληρή υπενθύμιση ότι πρέπει να συνεχίσουμε να σχεδιάζουμε και να βελτιώνουμε τα συστήματά μας, λαμβάνοντας υπόψη την εγγενή πολυπλοκότητα της ανθρώπινης συμπεριφοράς. Η ανάπτυξη αποτελεσματικών μέτρων προστασίας από τη βία στα συστήματα ΤΝ απαιτεί την επίλυση νέων προβλημάτων όσον αφορά την αναγνώριση κινδύνων και την κατάλληλη ανταπόκριση, και θα συνεχίσουμε να επενδύουμε, να βελτιώνουμε τα συστήματά μας και να μοιραζόμαστε τα διδάγματα σχετικά με τον καλύτερο τρόπο εφαρμογής των μέτρων προστασίας που προωθούμε. Τα μέτρα προστασίας που περιγράφονται εδώ θα αρχίσουν να εφαρμόζονται σταδιακά μέσα στις επόμενες εβδομάδες και θα συνεχίσουμε να τα βελτιώνουμε. Παραμένουμε προσηλωμένοι στον περιορισμό των κινδύνων πρόκλησης βλάβης στο ChatGPT, ενισχύοντας τα πολλαπλά επίπεδα προστασίας μας, παρακολουθώντας για τυχόν κακή χρήση, εφαρμόζοντας τους κανόνες μας και κινητοποιώντας υποστήριξη και παρεμβάσεις στον πραγματικό κόσμο όταν οι περιστάσεις το απαιτούν.