ΤΕΧΝΟΛΟΓΙΑ ΚΑΙ ΨΗΦΙΑΚΟΣ ΟΛΟΚΛΗΡΩΤΙΣΜΟΣ : To δίκοπο σπαθί της "αφηνιασμένης" τεχνολογίας (vid)

Ο συγγραφέας του βιβλίου "ΣΙΩΠΗΛΟΣ ΚΑΙΝΟΥΡΓΙΟΣ ΚΟΣΜΟΣ" - ΑΝΙΧΝΕΥΟΝΤΑΣ ΤΗ ΝΕΑ ΚΑΝΟΝΙΚΟΤΗΤΑ ΤΗΝ ΕΠΟΧΗ ΤΗΣ ΛΕΓΟΜΕΝΗΣ ΜΕΤΑ-ΔΗΜΟΚΡΑΤΙΑΣ, Κώστας Κατάρας στην ΚΡΗΤΗ TV και τον Γιώργο Σαχίνη,

     Ο Κώστας Κατάρας, ιδρυτής της συμβουλευτικής εταιρείας "Strategic International" με υπηρεσίες σε Διεθνείς Οργανισμούς και εμπειρογνώμονας στο παρελθόν της Ευρωπαϊκής Επιτροπής σε θέματα τεχνολογίας και επικοινωνίας, εξηγεί πως κατά την οπτική του, ο κόσμος μας εξαρτάται όλο και περισσότερο από την τεχνολογία, ένα δίκοπο μαχαίρι, ενώ αγωνιζόμαστε καθημερινά να έχουμε τον έλεγχο της ψηφιακής μας ζωής, ώστε να είμαστε ενημερωμένοι και να κάνουμε υπεύθυνες επιλογές.

 

Ο συγγραφέας του βιβλίου "ΣΙΩΠΗΛΟΣ ΚΑΙΝΟΥΡΓΙΟΣ ΚΟΣΜΟΣ" - ΑΝΙΧΝΕΥΟΝΤΑΣ ΤΗ ΝΕΑ ΚΑΝΟΝΙΚΟΤΗΤΑ ΤΗΝ ΕΠΟΧΗ ΤΗΣ ΛΕΓΟΜΕΝΗΣ ΜΕΤΑ-ΔΗΜΟΚΡΑΤΙΑΣ, Κώστας Κατάρας , σε μια συζήτηση - πρόκληση που θα προκαλέσει αίσθηση …

• Τεχνολογία και το πέρασμα από τη δημοκρατία στη μετα-δημοκρατία, τι μας επιφυλάσσει αυτή η μετάβαση;

• Τεχνολογία και Ψηφιακός Ολοκληρωτισμός

• Η τεχνολογία και το Κράτος υποσκάπτουν θεμελιώδη δικαιώματα του ανθρώπου ;

• Από τους κοριούς έως τις high-tech παρακολουθήσεις του Predator, και από τη βιομετρία έως τα συστήματα κοινωνικής εμπιστοσύνης (social credit systems) και το ψηφιακό νόμισμα των κρατικών τραπεζών, κάρτες πολίτη, αριθμοί πολίτη, ψηφιακές ταυτότητες, ιδέες για εμφύτευση τσιπ, ψηφιακά πιστοποιητικά, “ψηφιακά βραχιολάκια”, κλπ πρακτικές ασυμβίβαστες με την ιδιωτικότητα, αλλά και με τη δημοκρατία, η οποία εδράζεται σε ατομικές ικανότητες που συνδέονται με αυτόνομη ηθική κρίση και αυτοδιάθεση» (self-determination).

• Μύθοι - αλήθειες και υπερβολές

-Πως λειτουργεί ο σκοτεινός κόσμος της χειραγώγησης μέσω της τεχνολογίας αιχμής ;

• Κινδυνεύουμε από μια Ψηφιακή Δικτατορία ;

• Η λεγόμενη εποχή της Μετα-αλήθειας, του κενού και της παθητικότητας

Ο Κώστας Κατάρας, ιδρυτής της συμβουλευτικής εταιρείας "Strategic International" με υπηρεσίες σε Διεθνείς Οργανισμούς και εμπειρογνώμονας στο παρελθόν της Ευρωπαϊκής Επιτροπής σε θέματα τεχνολογίας και επικοινωνίας, εξηγεί πως κατά την οπτική του, ο κόσμος μας εξαρτάται όλο και περισσότερο από την τεχνολογία, ένα δίκοπο μαχαίρι, ενώ αγωνιζόμαστε καθημερινά να έχουμε τον έλεγχο της ψηφιακής μας ζωής, ώστε να είμαστε ενημερωμένοι και να κάνουμε υπεύθυνες επιλογές.

ΑΝΤΙΘΕΣΕΙΣ με τον Γιώργο Σαχίνη στην ΚΡΗΤΗ TV

Ο τομέας πληροφορικής της Ινδίας αντιμετωπίζει νέες προκλήσεις εν μέσω άνθησης της τεχνητής νοημοσύνης και γεωπολιτικών αβεβαιοτήτων

Η πληροφορική απασχολεί 5,4 εκατομμύρια άμεσα, εκατομμύρια ακόμη έμμεσα, τροφοδοτώντας το όνειρο της μεσαίας τάξης της Ινδίας.

    Το μέλλον της βιομηχανίας πληροφορικής είναι γεμάτο δυνατότητες και δημιουργεί νέες ευκαιρίες για πολλές επιχειρήσεις, επαγγελματίες και καταναλωτές. Η βιομηχανία πληροφορικής καλύπτει διάφορους τομείς, όπως η ανάπτυξη λογισμικού, η κατασκευή υλικού, το cloud computing, η κυβερνοασφάλεια, η τεχνητή νοημοσύνη, το Διαδίκτυο των Πραγμάτων και άλλοι.

Η υψηλού προφίλ βιομηχανία πληροφορικής της Ινδίας, που εδώ και καιρό αποτελεί πυλώνα οικονομικής ανάπτυξης και εθνικής υπερηφάνειας, αντιμετωπίζει την πιο σκληρή δοκιμασία μέχρι σήμερα. Το 2025, δύο σεισμικά σοκ συγκλόνισαν τον κλάδο: Η κυκλοφορία του μοντέλου τεχνητής νοημοσύνης (AI) R1 της κινεζικής νεοσύστατης επιχείρησης DeepSeek τον Ιανουάριο, το οποίο ξεπέρασε γρήγορα το ChatGPT σε λήψεις και προκάλεσε ενδοσκόπηση στο Νέο Δελχί, και η ανακοίνωση του Ιουλίου από την μεγαλύτερη εταιρεία πληροφορικής της Ινδίας, Tata Consultancy Services (TCS), για τις μεγαλύτερες απολύσεις που έχει κάνει ποτέ - 12.000 θέσεις εργασίας, ή το 2% του εργατικού δυναμικού της, θα περικοπούν στο οικονομικό έτος 2026. Αυτά τα γεγονότα υπογραμμίζουν μια ευρύτερη εκτίμηση: Μπορεί ο μεγαθήριος outsourcing της Ινδίας, αξίας 283 δισεκατομμυρίων δολαρίων, να προσαρμοστεί στην ανατρεπτική δύναμη της Τεχνητής Νοημοσύνης, ενώ παράλληλα θα διαχειριστεί τις εμπορικές πιέσεις των ΗΠΑ, ή θα υποκύψει σε μια τέλεια καταιγίδα τεχνολογικών αναταραχών και γεωπολιτικών αβεβαιοτήτων;

Για δεκαετίες, οι υπηρεσίες πληροφορικής της Ινδίας αποτελούν το αντικείμενο του φθόνου του αναπτυσσόμενου κόσμου. Από το κύμα απελευθέρωσης της δεκαετίας του 1990, ο τομέας έχει αξιοποιήσει ένα πλεόνασμα αγγλόφωνων μηχανικών για να γίνει το back office του κόσμου. Μέχρι το 2022, η τεχνολογία πληροφοριών και επικοινωνιών αντιπροσώπευε περισσότερο από το ήμισυ των εξαγωγών υπηρεσιών της Ινδίας, καθιστώντας την τον δεύτερο μεγαλύτερο εξαγωγέα υπηρεσιών πληροφορικής μετά την Ιρλανδία, καταλαμβάνοντας περισσότερο από το 15% της παγκόσμιας αγοράς.

Αυτή η επιτυχία παρέκαμψε τις παραδοσιακές παγίδες της εκβιομηχάνισης. Σε αντίθεση με τη μεταποίηση, η πληροφορική απαιτεί περιορισμένες υποδομές, μόνο θύλακες νεωτερικότητας όπως τα πάρκα λογισμικού στη Μπανγκαλόρ και το Χαϊντεραμπάντ. Παρέκαμψε τους αυστηρούς εργατικούς νόμους αξιοποιώντας το μοναδικό πλεονέκτημα της Ινδίας: χαμηλού κόστους, κλιμακώσιμο ταλέντο που μιλούσε άπταιστα αγγλικά, χωρίς να συγκρίνεται με τα γλωσσικά εμπόδια της Ανατολικής Ασίας ή τα κενά δεξιοτήτων της Αφρικής. Πολιτικές όπως οι φορολογικές απαλλαγές στις εισαγωγές υλικού και οι επιδοτήσεις εξαγωγών τροφοδότησαν την άνθηση, μετατρέποντας την "India Inc" σε μια μηχανή συναλλάγματος που αντιστάθμισε τα χρόνια ελλείμματα στο εμπόριο αγαθών.

Ωστόσο, αυτό το μοντέλο, που βασίζεται στον όγκο έναντι της αξίας, φαίνεται τώρα εύθραυστο. Η ικανότητα πληροφορικής της Ινδίας να καλύπτει ένα κραυγαλέο έλλειμμα καινοτομίας. Παρά την εγγύτητα με τη Σίλικον Βάλεϊ, όπου Ινδοί διευθύνοντες σύμβουλοι ηγούνται των Microsoft, Google και Adobe, η χώρα έχει δημιουργήσει λίγα παγκόσμια τεχνολογικά προϊόντα. Κανένα ινδικό λειτουργικό σύστημα, πρόγραμμα περιήγησης ή εφαρμογή κοινωνικής δικτύωσης δεν ανταγωνίζεται τα δυτικά ή κινέζικα αντίστοιχα. Οι διαδικτυακές σουίτες γραφείου Zoho και το τραπεζικό λογισμικό Finacle λάμπουν σε εξειδικευμένες αγορές, αλλά αποτελούν εξαιρέσεις. Οι δαπάνες για Έρευνα και Ανάπτυξη στην Ινδία κυμαίνονται στο 0,6 έως 0,7% του ΑΕΠ, σε σύγκριση με το 2,68% της Κίνας και το πάνω από 3,5% των ΗΠΑ.

Αυτό πηγάζει από μια «κατάρα πόρων» φθηνής εργασίας. Οι ινδικές εταιρείες επωφελούνται από τα κενά μισθών arbitrage, προσλαμβάνοντας προγραμματιστές με χαμηλότερους μισθούς χωρίς να ανεβαίνουν στην αλυσίδα αξίας. Η χρέωση ανά ώρες ενθαρρύνει την εργασία χαμηλής ειδίκευσης και παρατεταμένης εργασίας έναντι της αποτελεσματικότητας. Τα κορυφαία ταλέντα διαρρέουν στο εξωτερικό ή σε ξένα «κέντρα παγκόσμιας δυναμικότητας», ενώ εγχώριοι γίγαντες όπως η TCS δίνουν προτεραιότητα στη διαχείριση πελατών έναντι της Έρευνας και Ανάπτυξης. Οι μονοπωλιακές δομές καταπνίγουν τις νεοσύστατες επιχειρήσεις και τα οικοσυστήματα επιχειρηματικών κεφαλαίων ωχριούν μπροστά σε αυτά της Κίνας.Η Ινδία έχασε τα κύματα από το λογισμικό για επιτραπέζιους υπολογιστές στις εφαρμογές για κινητά, περιεχόμενο με εξωτερική ανάθεση αντί για προέλευση.

Η Τεχνητή Νοημοσύνη επιδεινώνει αυτήν την ευπάθεια. Εργαλεία όπως το ChatGPT και το Claude αυτοματοποιούν εργασίες ρουτίνας, όπως η αποσφαλμάτωση και τα ερωτήματα που αποτελούν τον πυρήνα της εξωτερικής ανάθεσης IT. Ενώ το DeepSeek-R1 της Κίνας, που μειώνει δραματικά το κόστος, σάρωσε τον κόσμο, τα Ινδικά στελέχη θρήνησαν: «Γιατί όχι από την Μπανγκαλόρ;» Το μοντέλο, που επαινέθηκε από τον Υπουργό Πληροφορικής της Ινδίας Ashwini Vaishnaw για την λιτότητά του, ώθησε την Ινδία να επιταχύνει το εθνικό της πρόγραμμα Τεχνητής Νοημοσύνης, συγκεντρώνοντας 18.693 GPU για τοπικά μοντέλα. Ωστόσο, καθώς οι απολύσεις της TCS σηματοδοτούν - επικαλούμενη «αναντιστοιχίες δεξιοτήτων» που προκαλούνται από την Τεχνητή Νοημοσύνη - ο τομέας προετοιμάζεται για μαζική μετατόπιση.

Αυτό επιδεινώνεται από τις αντιξοότητες της πολιτικής των ΗΠΑ. Τα μισά από τα έσοδα της Ινδίας από την πληροφορική πραγματοποιούνται στην αμερικανική αγορά. Οι δασμοί της κυβέρνησης Ντόναλντ Τραμπ, 25% στα περισσότερα ινδικά προϊόντα από τον Ιούλιο του 2025, διπλασιασμένοι στο 50% στα τέλη Αυγούστου, δεν πλήττουν άμεσα τις υπηρεσίες, αλλά διαγράφονται κυματιστές επιπτώσεις. Με την Τεχνητή Νοημοσύνη να επιτρέπει την «επαναποθήκευση υπηρεσιών», οι αμερικανικές εταιρείες ενδέχεται να αυτοματοποιήσουν εγχώρια, παρακάμπτοντας την Ινδία σε πρωτοφανή βαθμό.

Πολιτικά, αυτό απειλεί το όραμα του Ινδού πρωθυπουργού Ναρέντρα Μόντι. Η πληροφορική απασχολεί 5,4 εκατομμύρια άμεσα, εκατομμύρια ακόμη έμμεσα, τροφοδοτώντας το όνειρο της μεσαίας τάξης της Ινδίας. Μια ύφεση θα μπορούσε να αυξήσει την ανεργία, πυροδοτώντας αναταραχές στους εκλογικούς κύκλους. Οικονομικά, οποιαδήποτε διάβρωση κινδυνεύει με υποτίμηση της ρουπίας, πληθωρισμό και πίεση στα συναλλαγματικά αποθέματα. Η υστέρηση στην παραγωγή δεν αφήνει περιθώρια. Εάν η Τεχνητή Νοημοσύνη και οι δασμοί συγκλίνουν, η Ινδία αντιμετωπίζει μια κρίση «αναντιστοιχίας ταλέντων»: πλεονάζον εργατικό δυναμικό χαμηλής ειδίκευσης εν μέσω ζήτησης για ειδικούς με γνώσεις στην Τεχνητή Νοημοσύνη.

Οι αντιδράσεις του Νέου Δελχί δείχνουν επείγουσα ανάγκη αλλά και περιορισμούς. Το πρόγραμμα Τεχνητής Νοημοσύνης στοχεύει σε πολύγλωσσα μοντέλα, συνεργαζόμενο με τοπικές εταιρείες Τεχνητής Νοημοσύνης για υπολογιστική. Ωστόσο, η τριτοβάθμια εκπαίδευση παράγει προγραμματιστές, όχι ερευνητές, και η γραφειοκρατία εμποδίζει την καινοτομία. Για να αλλάξει πορεία, η Ινδία πρέπει να ενισχύσει την Έρευνα και Ανάπτυξη, να μεταρρυθμίσει την εργατική νομοθεσία για ευελιξία και να προωθήσει ένα οικοσύστημα νεοσύστατων επιχειρήσεων. 

Το θαύμα της πληροφορικής της Ινδίας ήταν μια παράκαμψη των δεινών της εκβιομηχάνισης. Η Τεχνητή Νοημοσύνη απαιτεί επανεξέταση: από το εργασιακό arbitrage στην ηγεσία στην καινοτομία. Χωρίς τολμηρές μεταρρυθμίσεις, ο τομέας κινδυνεύει με απαξίωση, καθυστερώντας την ανάπτυξη. Αλλά με όραμα, η Ινδία μπορεί κάλλιστα να αναδυθεί ανθεκτική. Η καταιγίδα είναι εδώ και η προσαρμογή είναι το κλειδί.

Τεχνητή Νοημοσύνη (ΤΝ): Τη φοβόμαστε για τις εκλογές, αλλά την εμπιστευόμαστε για την ασφάλεια

     Οι νέοι Ευρωπαίοι δεν αποκλείουν πάντως να επιτρέψουν σε μια εφαρμογή ΑΙ να ψηφίσει για λογαριασμό τους. Οι εμπειρογνώμονες έχουν κρούσει τον κώδωνα του κινδύνου για την παραπληροφόρηση μέσω ΤΝ κατά τη διάρκεια των ευρωπαϊκών εκλογών.

Η συντριπτική πλειοψηφία των Ευρωπαίων φοβούνται τη χειραγώγηση μέσω Τεχνητής Νοημοσύνης (AI) στις εκλογές, αλλά εμπιστεύονται την τεχνολογία όταν χρησιμοποιείται από την αστυνομία και τον στρατό για παρακολούθηση, σύμφωνα με νέα έκθεση που δημοσιεύθηκε τη Δευτέρα.

Η μελέτη "European Tech Insights" του Πανεπιστημίου IE στην Ισπανία διεξήγαγε έρευνα σε περισσότερους από 3.000 ανθρώπους σε 10 ευρωπαϊκές χώρες.

Διαπίστωσε ότι δύο στους τρεις Ευρωπαίους (67%) φοβούνται ότι χάκερ θα μπορούσαν να αλλοιώσουν τα αποτελέσματα των εκλογών και ότι πάνω από το 30% των ερωτηθέντων πιστεύουν ότι η τεχνητή νοημοσύνη έχει ήδη επηρεάσει τις αποφάσεις τους για την ψήφο.

Οι χώρες με τους πολίτες που εμπιστεύονταν λιγότερο την τεχνητή νοημοσύνη στις εκλογές ήταν το Ηνωμένο Βασίλειο (54%) και η Ισπανία (51%).

Οι εμπειρογνώμονες έχουν κρούσει τον κώδωνα του κινδύνου για την παραπληροφόρηση μέσω ΤΝ κατά τη διάρκεια των ευρωπαϊκών εκλογών.

Σε μια εκλογική αναμέτρηση στη Σλοβακία πέρυσι παρατηρήθηκαν ηχητικές καταγραφές που δημιουργήθηκαν από τεχνητή νοημοσύνη και παρίσταναν έναν υποψήφιο, ο οποίος συζητούσε τρόπους νοθείας της ψηφοφορίας.

«Η ανησυχία του κοινού για τον ρόλο της ΤΝ στη διαμόρφωση των εκλογών αυξάνεται. Αν και δεν υπάρχουν ακόμη σαφή στοιχεία που να δείχνουν σημαντικές αλλαγές στα εκλογικά αποτελέσματα, η ΤΝ έχει αυξήσει τις ανησυχίες για την εκλογική παραπληροφόρηση και τα deepfake σε παγκόσμια κλίμακα», δήλωσε ο Κάρλος Λούκα ντε Τένα, εκτελεστικός διευθυντής του IE Center for the Governance of Change.

Πού εμπιστεύονται οι Ευρωπαίοι την Τεχνητή Νοημοσύνη (ΤΝ)

Οι Ευρωπαίοι ηλικίας κάτω των 35 ετών είναι λιγότερο καχύποπτοι, καθώς το 34% αυτών δήλωσαν ότι θα εμπιστεύονταν μια εφαρμογή τεχνητής νοημοσύνης, προκειμένου αυτή να ψηφίσει υποψηφίους για λογαριασμό τους.

Οι παλαιότερες γενιές εμπιστεύονται λιγότερο την τεχνολογία.

Σχεδόν το 30% των ατόμων ηλικίας 35 έως 44 ετών δήλωσαν ότι θα εμπιστεύονταν ένα εργαλείο ψηφοφορίας με τεχνητή νοημοσύνη και μόλις το 9% των ατόμων ηλικίας 65 ετών και άνω δήλωσαν ότι θα το εμπιστεύονταν.

Εν τω μεταξύ, περίπου το 75% των ερωτηθέντων δήλωσαν ότι υποστηρίζουν τη χρήση της ΤΝ για αστυνομικές και στρατιωτικές επιχειρήσεις, όπως η αναγνώριση προσώπου και τα βιομετρικά δεδομένα.

Αυτό συμβαίνει παρά τους αυστηρούς κανόνες της Ευρώπης για τα δεδομένα, συμπεριλαμβανομένου του Γενικού Κανονισμού για την Προστασία Δεδομένων (GDPR), ο οποίος διέπει τη χρήση και την αποθήκευση των δεδομένων των χρηστών.

Ωστόσο, για ευαίσθητα θέματα, όπως οι αποφάσεις για αναστολές ποινών, περίπου το 64% των Ευρωπαίων δήλωσαν ότι αντιτίθενται στην τεχνητή νοημοσύνη.

Το Ευρωπαϊκό Κοινοβούλιο υιοθέτησε κανόνες για την τεχνητή νοημοσύνη

     Στόχος της νέας νομοθεσίας είναι να προστατεύσει τα θεμελιώδη δικαιώματα, τη δημοκρατία, το κράτος δικαίου και την περιβαλλοντική βιωσιμότητα από τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου, αλλά και να ενισχύσει παράλληλα την καινοτομία και να αναδείξει την Ευρώπη ως πρωτοπόρο δύναμη στον τομέα αυτό...

Το Ευρωπαϊκό Κοινοβούλιο ενέκρινε τον κανονισμό περί τεχνητής νοημοσύνης (ΑΙ) που κατοχυρώνει την ασφάλεια των χρηστών και την τήρηση των θεμελιωδών δικαιωμάτων ενισχύοντας παράλληλα την καινοτομία.

Οι ευρωβουλευτές ενέκριναν το κείμενο, στο οποίο είχαν συμφωνήσει με τα κράτη μέλη τον Δεκέμβριο του 2023, με 523 ψήφους υπέρ, 46 ψήφους κατά και 49 αποχές.

Στόχος της νέας νομοθεσίας είναι να προστατεύσει τα θεμελιώδη δικαιώματα, τη δημοκρατία, το κράτος δικαίου και την περιβαλλοντική βιωσιμότητα από τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου, αλλά και να ενισχύσει παράλληλα την καινοτομία και να αναδείξει την Ευρώπη ως πρωτοπόρο δύναμη στον τομέα αυτό. Γι' αυτόν τον σκοπό, ο κανονισμός ορίζει διαφορετικές υποχρεώσεις για τα συστήματα τεχνητής νοημοσύνης, ανάλογα με τους πιθανούς κινδύνους και τις επιπτώσεις που ενέχει η χρήση τους.

Καθολική απαγόρευση ορισμένων πρακτικών

Οι νέοι κανόνες απαγορεύουν τις εφαρμογές της τεχνητής νοημοσύνης που απειλούν τα δικαιώματα των πολιτών, όπως είναι τα συστήματα βιομετρικής κατηγοριοποίησης που βασίζονται σε ευαίσθητα χαρακτηριστικά και η μη στοχοθετημένη συλλογή εικόνων προσώπων από το διαδίκτυο ή από κάμερες κλειστού κυκλώματος παρακολούθησης, με στόχο τη δημιουργία βάσεων δεδομένων για την αναγνώριση προσώπων. Θα απαγορεύονται επίσης η αναγνώριση συναισθημάτων στον χώρο εργασίας και το σχολείο, η κοινωνική βαθμολόγηση, η προληπτική αστυνόμευση (όταν βασίζεται αποκλειστικά στην κατάρτιση προφίλ ενός ατόμου ή στην αξιολόγηση των χαρακτηριστικών του) και η τεχνητή νοημοσύνη που χειραγωγεί την ανθρώπινη συμπεριφορά ή εκμεταλλεύεται τα τρωτά σημεία των ανθρώπων.

Εξαιρέσεις για τις αρχές επιβολής του νόμου

Η χρήση συστημάτων βιομετρικής ταυτοποίησης από τις αρχές επιβολής του νόμου απαγορεύεται κατά κανόνα, με εξαίρεση τις συγκεκριμένες περιπτώσεις που παραθέτει και ορίζει λεπτομερώς ο νέος κανονισμός. Η χρήση συστημάτων βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» επιτρέπεται μόνο υπό αυστηρές προϋποθέσεις: αν, για παράδειγμα, η βιομετρική ταυτοποίηση θα χρησιμοποιηθεί μόνο για περιορισμένο χρόνο και σε περιορισμένη γεωγραφική έκταση, με προηγούμενη ειδική άδεια από τις δικαστικές ή τις διοικητικές αρχές. Τέτοιες περιπτώσεις μπορεί να είναι η στοχευμένη αναζήτηση αγνοουμένου προσώπου ή η πρόληψη μιας τρομοκρατικής επίθεσης. Η χρήση συστημάτων βιομετρικής ταυτοποίησης «σε ύστερο χρόνο» θεωρείται υψηλού κινδύνου και απαιτεί δικαστική έγκριση που θα συνδέεται με κάποιο ποινικό αδίκημα.

Υποχρεώσεις για τα συστήματα υψηλού κινδύνου

Ο νέος κανονισμός θέτει σαφείς υποχρεώσεις και για τα υπόλοιπα συστήματα τεχνητής νοημοσύνης που θεωρούνται υψηλού κινδύνου, λόγω των σημαντικών επιβλαβών επιπτώσεων που ενδέχεται να έχουν στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα, το περιβάλλον, τη δημοκρατία και το κράτος δικαίου. Το κείμενο απαριθμεί τους τομείς στους οποίους χρησιμοποιούνται ή ενδέχεται να χρησιμοποιηθούν τέτοια συστήματα και οι οποίοι είναι: οι κρίσιμες υποδομές, η εκπαίδευση και η επαγγελματική κατάρτιση, η απασχόληση, βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. υγειονομική περίθαλψη, τράπεζες), η επιβολή του νόμου, η διαχείριση της μετανάστευσης και των συνόρων, καθώς και οι δικαστικές και δημοκρατικές διαδικασίες (π.χ. για τον επηρεασμό εκλογικών διαδικασιών). Τα συστήματα αυτά πρέπει να αξιολογούν και να ελαχιστοποιούν τους κινδύνους, να τηρούν αρχεία καταγραφής της χρήσης τους, να είναι διαφανή και ακριβή και να εποπτεύονται από ανθρώπους. Οι πολίτες θα έχουν το δικαίωμα να υποβάλλουν καταγγελίες για τα συστήματα τεχνητής νοημοσύνης και να λαμβάνουν εξηγήσεις για τυχόν αποφάσεις που βασίστηκαν σε συστήματα υψηλού κινδύνου και επηρεάζουν τα δικαιώματά τους.

Απαιτήσεις για διαφάνεια

Τα συστήματα τεχνητής νοημοσύνης «γενικής χρήσης» και τα μοντέλα στα οποία βασίζονται πρέπει να πληρούν ορισμένες απαιτήσεις διαφάνειας, συμπεριλαμβανομένης της συμμόρφωσής τους με τη νομοθεσία της ΕΕ για τα δικαιώματα πνευματικής ιδιοκτησίας και της δημοσιοποίησης λεπτομερών περιλήψεων του περιεχομένου που χρησιμοποιούν για την εκπαίδευση των μοντέλων τους. Για τα ισχυρότερα μοντέλα, που μπορούν να δημιουργήσουν συστημικούς κινδύνους, θα ισχύουν επιπλέον απαιτήσεις, όπως η αξιολόγησή τους, η εκτίμηση και ο περιορισμός των συστημικών κινδύνων και η υποβολή εκθέσεων σχετικά με περιστατικά και δυσλειτουργίες.

Επιπλέον, αν οποιοδήποτε οπτικοακουστικό υλικό είναι τεχνητό ή παραποιημένο (τα λεγόμενα «προϊόντα βαθυπαραποίησης» ή «deepfakes») θα πρέπει να επισημαίνεται σαφώς.

Μέτρα για στήριξη της καινοτομίας και των μικρών και μεσαίων επιχειρήσεων

Οι εθνικές αρχές κάθε χώρας θα πρέπει να δημιουργήσουν «ρυθμιστικά δοκιμαστήρια» για να δοκιμάζονται σε πραγματικές συνθήκες τα συστήματα τεχνητής νοημοσύνης. Οι δομές αυτές θα πρέπει να είναι προσβάσιμες στις μικρές και μεσαίες επιχειρήσεις, καθώς και στις νεοφυείς επιχειρήσεις, για να μπορούν να αναπτύσσουν και να εκπαιδεύουν καινοτόμα μοντέλα τεχνητής νοημοσύνης πριν από τη διάθεσή τους στην αγορά.

ΑΠΕ-ΜΠΕ

Βλαντιμίρ Πούτιν: «Ο έλεγχος της τεχνητής νοημοσύνης μπορεί να είναι παρόμοιος με τους κανόνες περί μη διάδοσης των πυρηνικών»

«Στον τομέα της τεχνητής νοημοσύνης, μπορούμε να επιτύχουμε κοινές λύσεις αποδεκτές από όλους και απαραίτητες για όλους», συνέχισε ο Ρώσος ηγέτης.

Η ανθρωπότητα μπορεί να συμφωνήσει σε κοινές αρχές ελέγχου της τεχνητής νοημοσύνης παρόμοιες με τους κανόνες περί μη διάδοσης των πυρηνικών όπλων, δήλωσε ο Ρώσος πρόεδρος Βλαντιμίρ Πούτιν σε μια διάσκεψη για την τεχνητή νοημοσύνη.

«Η ανθρωπότητα έχει επεξεργαστεί ορισμένους κανόνες που σχετίζονται με τη χρήση των πυρηνικών τεχνολογιών, συμπεριλαμβανομένων αυτών στον στρατιωτικό τομέα: μη διάδοση. Διατύπωσε τους κανόνες για τη μη διάδοση των οχημάτων παράδοσης και των πυρηνικών τεχνολογιών καθαυτές. Υπάρχουν τέτοιοι κανόνες. Η ανθρωπότητα έχει κατάφερε να το δημιουργήσει. Στον τομέα της τεχνητής νοημοσύνης, μπορούμε να επιτύχουμε κοινές λύσεις αποδεκτές από όλους και απαραίτητες για όλους», είπε ο Πούτιν.

Την άποψή του υποστήριξε ο επικεφαλής της Sberbank German Gref.

«Έχετε απόλυτο δίκιο. Μου φαίνεται ότι είναι προς το συμφέρον όλων των ανθρώπων, ολόκληρης της ανθρωπότητας, να προσεγγίσουμε αυτή τη διαδικασία με αίσθημα μεγάλης ευθύνης», είπε ο Γκρεφ. Είναι βέβαιος ότι αυτή η διαδικασία πρέπει να ελέγχεται πλήρως από τους ανθρώπους.

Κατά τη διάρκεια της συζήτησης ο Πούτιν υπέθεσε ότι η καλύτερη επιλογή θα ήταν να επιτευχθούν συμφωνίες πριν εμφανιστεί οποιαδήποτε απειλή στον τομέα της τεχνητής νοημοσύνης.

«Ξέρετε πότε αυτό θα είναι δυνατό; Όταν όλοι αισθάνονται ότι απειλούνται. Όταν όλοι αισθάνονται ότι απειλούνται από την ανεξέλεγκτη εξάπλωση, από την ανεξέλεγκτη εργασία σε αυτόν τον τομέα, τότε θα δούμε αμέσως την επιθυμία να επιτευχθούν συμφωνίες. Θα ήταν το καλύτερο εάν η κοινή συνείδηση Οι διαφαινόμενες απειλές οδήγησαν στην επιθυμία για διαπραγμάτευση», είπε ο Πούτιν.