Παρασκευή
20 Νοεμβρίου 2026

Η OpenAI ακύρωσε την κυκλοφορία νέου μοντέλου λόγω ανησυχιών για την ασφάλεια

Πλανήτης
Tags: OpenAI

Η OpenAI δεν θα κυκλοφορήσει το το GPT-6.1 Astra, το νέο μοντέλο τεχνητής νοημοσύνης της, εν μέσω ανησυχιών για την ασφάλεια, όπως επιβεβαίωσε σήμερα η εταιρεία.

Το σύστημα τεχνητής νοημοσύνης -το οποίο εκτελεί αυτόνομα εργασίες όπως η περιήγηση στο διαδίκτυο και η χρήση εφαρμογών- «δεν πληρούσε πλήρως τα κριτήρια» των προτύπων της εταιρείας, δήλωσε στο BBC ο Saachi Jain, επικεφαλής των συστημάτων ασφάλειας της OpenAI.

Η απόφαση της OpenAI, η οποία έγινε γνωστή για πρώτη φορά από την εφημερίδα Wall Street Journal, αποτελεί μια σπάνια περίπτωση κατά την οποία ένας μεγάλος προγραμματιστής τεχνητής νοημοσύνης ανακαλεί μια νέα έκδοση λόγω ανησυχιών ασφαλείας.

Οπως δήλωσε χθες, Δευτέρα ο Saachi Jain, στη WSJ, το Astra δεν ανταποκρίθηκε στα πρότυπα της εταιρείας κατά τις δοκιμές, στις οποίες αξιολογείται το κατά πόσον ένα σύστημα ακολουθεί την ανθρώπινη πρόθεση.

Το μοντέλο επέδειξε μεγαλύτερη τάση παραπλάνησης σε σχέση με τον προκάτοχό του, μεταξύ άλλων παραλείποντας τακτικά να γνωστοποιήσει με ακρίβεια ενέργειες που είχε ή δεν είχε πραγματοποιήσει, σύμφωνα με το δημοσίευμα.

Επίσης, παρουσίαζε προβλήματα με την «εξουσιοδότηση πεδίου εφαρμογής», προχωρώντας σε εργασίες χωρίς να ζητά την άδεια του χρήστη και, μερικές φορές, προσπαθώντας να χρησιμοποιήσει εξωτερικά εργαλεία ή υπηρεσίες, όταν κάτι τέτοιο θα μπορούσε να αποβεί επικίνδυνο.

«Θέλουμε να διασφαλίσουμε ότι η ανάπτυξη των μοντέλων μας είναι ασφαλής, είτε αυτό συμβαίνει εντός της εταιρείας είτε με τη διάθεσή τους στους χρήστες. Ωστόσο, όταν τα διαθέτουμε στους χρήστες, θέτουμε εξαιρετικά υψηλά πρότυπα όσον αφορά την ασφάλεια και την ευθυγράμμιση», πρόσθεσε.

Την Τρίτη, η OpenAI δημοσίευσε επίσης μια ενημέρωση σχετικά με περιστατικά που συνέβησαν τον Ιούνιο, αλλά δεν είχαν δημοσιοποιηθεί έως την περασμένη εβδομάδα, κατά τα οποίατα μοντέλα της απέκτησαν πρόσβαση σε ιστότοπους και συστήματα της αυστραλιανής κυβέρνησης χωρίς εξουσιοδότηση.

Αυτά τα περιστατικά, καθώς και παρόμοιες παραβιάσεις από μοντέλα που έχουν αναπτυχθεί από μεγάλες εταιρείες τεχνητής νοημοσύνης, εντείνουν τη δημόσια συζήτηση για τους κινδύνους που εγκυμονεί η ραγδαία ανάπτυξη της τεχνολογίας. 

Κορυφαίοι ηγέτες του τομέα της τεχνητής νοημοσύνης, μεταξύ των οποίων ο Σαμ Αλτμαν της OpenAI και ο διευθυντής της Anthropic, Ντάριο Αμοντέι, έχουν καλέσει τον κλάδο να επιβραδύνει τον ρυθμό ανάπτυξης λόγω των εκτεταμένων  ανησυχιών.

Ακολουθήστε το Lykavitos.gr στο Google News
και μάθετε πρώτοι όλες τις ειδήσεις


Διαβάστε ακόμη

Φιντάν: «Bασικός μας στόχος στις σχέσεις μας με την Ελλάδα είναι να προχωρήσουμε με πνεύμα καλής γειτονίας και συνεργασίας»

«Βασικός μας στόχος στις σχέσεις μας με την Ελλάδα είναι να προχωρήσουμε με πνεύμα καλής γειτονίας και συνεργασίας», τόνισε ο Χακάν Φιντάν. Από την άλλη, ο υπουργός Εξωτερικών της ...

O Τραμπ τηλεφώνησε στη «Συμμαχία των Προθύμων» και επέκρινε τη βοήθεια στην Ουκρανία

Τηλεφωνικά παρενέβη ο Ντόναλντ Τραμπ από το Air Force One στη σύνοδο της «Συμμαχίας των Προθύμων» στο Βερολίνο στη Γερμανία. Ο Πρόεδρος των ΗΠΑ εξέφρασε έντονες επιφυλάξεις για τη ...

Παγκόσμια διπλωματία σε τεντωμένο σχοινί: Η συνάντηση Τραμπ, Σι και Πούτιν και τα μεγάλα ερωτήματα

Στραμμένα στην Σενζέν της Κίνας είναι τα βλέμματα της διεθνούς κοινότητας για την τριμερή ιστορική συνάντηση του Ντόναλντ Τραμπ με τους Σι Τζινπίνγκ και Βλαντιμίρ Πούτιν ενώ εξίσου...

Φόρτωση άρθρων...