Η Κυριακάτικη Καθημερινή φιλοξένησε τις πρώτες εκτιμήσεις μου για το DeepSeek μαζί με αυτές των κ.κ. Θοδωρή Χριστάκη, καθηγητή Νομικής στο Πανεπιστήμιο της Γκρενόμπλ, και Δημήτρη Παπαηλιόπουλου, καθηγητή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών στο Πανεπιστήμιο του Ουισκόνσιν. Αφορμή αποτέλεσε η πρωτοβουλία του κ. Λευτέρη Χελιουδάκη, εκτελεστικού διευθυντή της Homo Digitalis, σχετικά με τη διαχείριση των προσωπικών δεδομένων των πολιτών από την κινεζική εταιρεία. Προσωπικά εκτιμώ ιδιαίτερα τα εντυπωσιακά αποτελέσματα που φέρνει το DeepSeek, είμαι όμως επιφυλακτικός μέχρι να μπορέσουμε να το μελετήσουμε και να διαπιστώσουμε στην πράξη πόσα από αυτά ανταποκρίνονται στην πραγματικότητα. Το θέμα των προσωπικών δεδομένων με απασχολεί και εμένα αρκετά. Χαίρομαι που η άποψή μου ταυτίζεται με αυτή του υπερ-ειδικού σε θέματα κυβερνοασφάλειας Δημήτρη Σιατήρα. Ευχαριστούμε τον κ. Παπαδόπουλο που συντόνισε αυτή τη συζήτηση με άριστο τρόπο
Το άρθρο θα το βρείτε εδώ. Ακολουθεί η αναδημοσίευση του.
Ζητούν μπλόκο στην DeepSeek και για την Ελλάδα
Αίτημα προς την Αρχή Προστασίας Δεδομένων για «φρένο» στην κινεζική εφαρμογή τεχνητής νοημοσύνης, όπως έχει ήδη κάνει η Ιταλία
Γιάννης Παπαδόπουλος
03.02.2025
Πρώτοι κινητοποιήθηκαν οι Ιταλοί, δίνοντας στην κινεζική πλευρά διορία 20 ημερών για διευκρινίσεις. Η Αρχή Προστασίας Δεδομένων της ευρωπαϊκής χώρας θεωρεί ότι τα στοιχεία εκατομμυρίων πολιτών της διατρέχουν πιθανό κίνδυνο, καθώς δεν είναι ξεκάθαρος ο τρόπος συλλογής, αποθήκευσης και επεξεργασίας τους από το μοντέλο τεχνητής νοημοσύνης της DeepSeek. Πλέον, παρόμοιες ανησυχίες εκφράζονται και στην Ελλάδα. Η Homo Digitalis, οργάνωση που ασχολείται με τα δικαιώματα χρηστών του Διαδικτύου, έχει ζητήσει από την ελληνική εποπτική αρχή να «παγώσει» προσωρινά η διάθεση και χρήση του νέου δημοφιλούς chatbot μέχρι να παρασχεθούν σχετικές απαντήσεις.
«Δεν φαίνεται να υπάρχουν οι δικλίδες ασφαλείας που απαιτούνται από τη νομοθεσία», λέει στην «Κ» ο Λευτέρης Χελιουδάκης, εκτελεστικός διευθυντής στη Homo Digitalis. «Η πολιτική απορρήτου της DeepSeek δεν είναι λεπτομερής, δεν αναφέρει αναλυτικά τα δεδομένα που συλλέγει, ή σε ποιους τα μεταβιβάζει». Στο αίτημα που έστειλε τις προηγούμενες ημέρες η οργάνωση προς την ελληνική Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα αναφέρεται ότι η DeepSeek αποθηκεύει τα προσωπικά δεδομένα χρηστών σε διακομιστές που βρίσκονται στην Κίνα χωρίς τις προϋποθέσεις που θέτει ο Γενικός Κανονισμός Προστασίας Δεδομένων (GDPR) και δίχως κάποια ενημέρωση για τους πιθανούς κινδύνους που εγκυμονούν αυτές οι διαβιβάσεις.
Δεν είναι γνωστό πόσο έχει προλάβει να διαδοθεί η χρήση του μοντέλου της DeepSeek στη χώρα μας. Το παγκόσμιο αποτύπωμά του, πάντως, δεν είναι αμελητέο. Η εφαρμογή για κινητά τηλέφωνα εκτιμάται ότι κατέβηκε τουλάχιστον 2,6 εκατομμύρια φορές από την ημέρα που ήταν διαθέσιμη. Η προθεσμία των Ιταλών όμως δεν χρειάστηκε να εκπνεύσει. Στις 30 Ιανουαρίου, η ιταλική εποπτική αρχή μπλόκαρε το κινεζικό chatbot. Σύμφωνα με τη σχετική ανακοίνωση, η κινεζική πλευρά υποστήριξε ότι δεν διαθέτει τις υπηρεσίες της στην Ιταλία και ότι δεν υπόκειται στην ευρωπαϊκή νομοθεσία.
Ευαίσθητες πληροφορίες
Ο Θοδωρής Χριστάκης, καθηγητής Νομικής στο Πανεπιστήμιο της Γκρενόμπλ, επισημαίνει ότι οι αλληλεπιδράσεις των χρηστών με το chatbot ενδέχεται να περιέχουν ευαίσθητες προσωπικές πληροφορίες, όπως εμπιστευτικές μεταφράσεις, ιατρικό ιστορικό, διορθώσεις εταιρικών κειμένων. Από τη στιγμή που η εταιρεία προσφέρει τις υπηρεσίες της εντός Ευρωπαϊκής Ενωσης, τότε θα πρέπει να εφαρμοστεί πλήρως ο GDPR. Ωστόσο η πολιτική απορρήτου της DeepSeek, όπως έχει αναρτηθεί στην ιστοσελίδα της, δεν αναφέρεται στον κανονισμό ούτε μία φορά, «εγείροντας σοβαρά ερωτήματα σχετικά με το εάν και πώς εφαρμόζουν τις προστασίες του».
Οπως παρατηρεί ο κ. Χριστάκης, δύο είναι οι βασικές ανησυχίες που προκύπτουν: Πώς προστατεύονται τα δεδομένα από πιθανή πρόσβαση των κινεζικών αρχών, καθώς και τι είδους ευρωπαϊκά προσωπικά δεδομένα χρησιμοποιήθηκαν για την εκπαίδευση των μοντέλων της DeepSeek.
«Οταν το ChatGPT ξεκίνησε στην Ευρωπαϊκή Ενωση τον Νοέμβριο του 2022 υπό παρόμοιες συνθήκες, οι Αρχές Προστασίας Δεδομένων σε 15 χώρες άρχισαν έρευνες και η ιταλική ήταν η πρώτη που επέβαλε πρόστιμο ύψους 15 εκατομμυρίων ευρώ στην OpenAI τον περασμένο Δεκέμβριο», τονίζει ο κ. Χριστάκης. Πέρα από την Ιταλία και οι εποπτικές αρχές στην Ιρλανδία και στο Βέλγιο ζήτησαν πρόσφατα πληροφορίες για τον βαθμό συμμόρφωσης της κινεζικής πλευράς με την ευρωπαϊκή νομοθεσία.
DeepSeek: Τα διδάγματα για την Ελλάδα
Ποτέ στο κινητό
«Υπάρχουν επιφυλάξεις ως προς την προστασία των προσωπικών δεδομένων. Δεν θα έβαζα αυτή την εφαρμογή στο κινητό μου τηλέφωνο, καθώς οι κινεζικές εταιρείες είναι υποχρεωμένες να συνεργάζονται με την κινεζική κυβέρνηση», σημειώνει στην «Κ» ο Βασίλης Βλάχος, αναπληρωτής καθηγητής στο Τμήμα Οικονομικών Επιστημών του Πανεπιστημίου Θεσσαλίας. «Πρέπει να εξετάσουμε αρκετές παραμέτρους προτού υιοθετήσουμε μια λύση σαν και αυτή. Σίγουρα είναι ελκυστική, αλλά οτιδήποτε τόσο μεγάλο και σύνθετο που επηρεάζει τις ζωές ή και τις αποφάσεις μας δεν πρέπει να το υιοθετούμε άκριτα».
Διάτρητη ασφάλεια «Δεν φαίνεται να υπάρχουν οι δικλίδες ασφαλείας που απαιτούνται από τη νομοθεσία. Η πολιτική απορρήτου της DeepSeek δεν είναι λεπτομερής, δεν αναφέρει αναλυτικά τα δεδομένα που συλλέγει ή σε ποιους τα μεταβιβάζει». Λευτέρης Χελιουδάκης Εκτελεστικός διευθυντής στη Homo Digitalis
Παρόμοια προσέγγιση έχει και ο ερευνητής ασφαλείας δικτύων Δημήτρης Σιατήρας, ο οποίος δεν θα κατεβάσει την εφαρμογή στο κινητό του. Μεταξύ άλλων, αναφέρει ότι αποτρεπτικός παράγοντας για τον ίδιο είναι ότι η DeepSeek ζητάει από τον χρήστη να εγγραφεί με το email του ακόμη και για να δοκιμάσει το chatbot, κάτι που δεν απαιτούν τα μοντέλα άλλων εταιρειών. Μπορεί ο ίδιος βέβαια να πειραματιστεί αλλιώς, παρακάμπτοντας και τις ανησυχίες για το πού καταλήγουν και πώς αξιοποιούνται τα προσωπικά του δεδομένα. Μια και πρόκειται για εφαρμογή ανοιχτού κώδικα, μπορεί κάποιος γνώστης να κατεβάσει τις παραμέτρους στον υπολογιστή του και να τρέξει το DeepSeek τοπικά, εκτός σύνδεσης, περιορίζοντας στον υπολογιστή του κάθε αλληλεπίδραση που συμβαίνει με το chatbot.
Πόσο ικανό είναι όμως το νέο μοντέλο τεχνητής νοημοσύνης που έχει λανσάρει η DeepSeek; Η ίδια η εταιρεία υποστηρίζει ότι το μοντέλο της επιτυγχάνει απόδοση αιχμής σε πολλά τεστ που ενδιαφέρουν την ερευνητική κοινότητα, όπως μαθηματικά στο επίπεδο Ολυμπιάδας, προβλήματα διδακτορικού επιπέδου, αλλά και δύσκολα προγραμματιστικά προβλήματα. Ο Δημήτρης Παπαηλιόπουλος, καθηγητής Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών στο Πανεπιστήμιο του Ουισκόνσιν, παρατηρεί ότι το κινεζικό μοντέλο «φτάνει σε επίπεδα που σε ορισμένες περιπτώσεις προσεγγίζουν ή και ξεπερνούν την επίδοση του προηγούμενου κορυφαίου μοντέλου ο1 της OpenAI».
Ο ίδιος το έχει δοκιμάσει με κάποιους γρίφους και διαπίστωσε ότι τα καταφέρνει «εντυπωσιακά καλά». Σε έναν από αυτούς τους γρίφους παρέθεσε στο μοντέλο της DeepSeek πέντε γραμμές με αριθμούς και λέξεις. Κάθε γραμμή περιείχε έναν αριθμό γραμμένο σε διαφορετικές γλώσσες, ένα άσχετο όνομα, έναν αριθμό στα αγγλικά γραμμένο ανεστραμμένα, ένα δεύτερο όνομα που λειτουργούσε ως παρεμβολή και στο τέλος το άθροισμα των δύο αριθμών. Δηλαδή σε μια σειρά έγραψε: «πέντε Κώστας eerht-ytnewt Ανθή 28». Στο τέλος ζήτησε από το μοντέλο τεχνητής νοημοσύνης να βρει ποιος αριθμός πρέπει να μπει στη θέση του Χ σε αυτή τη σειρά: «minus one Shannon net Γιώργος X». Η σωστή απάντηση είναι το 9. «Αυτός είναι ένας γρίφος που έως τώρα πολύ λίγα μοντέλα μπορούσαν να λύσουν», λέει ο κ. Παπαηλιόπουλος. Το μοντέλο της DeepSeek τον έλυσε.
Πέρα από τη δυνατότητα να δίνει σωστές απαντήσεις, ωστόσο, το κινεζικό chatbot εμφανίζει σε κάθε ερώτημα την «αλυσίδα συλλογισμού» που ακολουθεί. Μοιάζει, κατά κάποιον τρόπο, ανάλογα και με το ερώτημα που έχει τεθεί, σαν να παρακολουθεί εκείνη τη στιγμή ο χρήστης τον εσωτερικό μονόλογο, τον τρόπο σκέψης μιας μηχανής. «Ο.Κ., προσπαθώ να δω εάν τα Ελγίνεια Μάρμαρα πρέπει να επιστρέψουν στην Ελλάδα. Πρώτα πρέπει να καταλάβω τι είναι τα Ελγίνεια Μάρμαρα. Από ό,τι θυμάμαι, είναι κλασικά ελληνικά γλυπτά που είχαν παρθεί από τον Παρθενώνα, στην Αθήνα, στις αρχές του 19ου αιώνα…». Ετσι ξεκίνησε την πορεία του συλλογισμού του όταν τέθηκε το αντίστοιχο ερώτημα από Ελληνα χρήστη.
Ο κ. Παπαηλιόπουλος λέει ότι η σχετική λειτουργία είναι αρκετά διαφωτιστική, διότι δίνει στον χρήστη ένα εργαλείο για να κατανοήσει πώς το μοντέλο προσεγγίζει ένα πρόβλημα και, ίσως, να αντιληφθεί πιθανά μοτίβα αποτυχίας ή επιτυχίας. «Παράλληλα, είναι χρήσιμο να παρακολουθεί κανείς τον τρόπο με τον οποίο το μοντέλο πραγματοποιεί αυτοαξιολόγηση, εξετάζει εναλλακτικές όταν “κολλάει” και προσπαθεί εκ νέου μέχρι να λύσει το πρόβλημα», προσθέτει.
Πολιτικός «συλλογισμός»
Πόσο ειλικρινές είναι, όμως, αυτό το μοντέλο όταν εδράζεται στην Κίνα, μια χώρα γνωστή για τους αυστηρούς περιορισμούς που θέτει στο Διαδίκτυο; Το πρώτο πείραμα που έκαναν χρήστες του νέου chatbot ήταν να ρωτήσουν για τη φοιτητική εξέγερση στην πλατεία Τιενανμέν, χωρίς να εισπράξουν απάντηση. Μια συντάκτρια των New York Times δοκίμασε να θέσει πολιτικά ευαίσθητες ερωτήσεις εντός έδρας, καθώς ζει στην Κίνα και είχε εγγραφεί στο chatbot καταχωρίζοντας κινεζικό αριθμό κινητού τηλεφώνου. Εάν ρωτούσε κάτι στα αγγλικά, όπως για παράδειγμα οι κινητοποιήσεις κατά των αυστηρών μέτρων στην περίοδο της πανδημίας, η εφαρμογή θα σκεφτόταν για λίγο την απάντηση και θα εμφάνιζε για λίγα δευτερόλεπτα στην οθόνη τη «γραμμή συλλογισμού» της προτού διαγράψει έπειτα τα πάντα και αυτολογοκριθεί. Εάν το ίδιο ερώτημα γινόταν στα κινεζικά δεν θα εμφανιζόταν καν «γραμμή συλλογισμού».
Παρόμοια συμπεριφορά έχει και ένα άλλο κινεζικό chatbot που δοκίμασε η «Κ», το Kimi. Σε ερώτηση σχετικά με τις κινητοποιήσεις την περίοδο της πανδημίας, αρχικά επεξεργάστηκε 26 σχετικά κείμενα σε ιστοσελίδες προτού σβήσει το σκεπτικό του και απαντήσει: «Λυπάμαι, δεν μπορώ να δώσω αυτές τις πληροφορίες. Μη διστάσετε να κάνετε μια άλλη ερώτηση».
