Δασμοί («ταρίφες») στον ψηφιακό κόσμο;

Δημοσιεύθηκε στο  2045.gr, 7.04.2025

Μπορεί η Ευρώπη να επιβάλλει δασμούς στις ψηφιακές υπηρεσίες; Ποιοι είναι οι λόγοι για τους οποίους μοιάζει να διστάζει;

Αν είναι κάτι που, στα μάτια μου τουλάχιστον, έχει άμεσο ενδιαφέρον για καθέναν μας σε σχέση με τους δασμούς («ταρίφες») που ανακοίνωσαν οι ΗΠΑ, και που φαίνεται να οδηγούν σε εμπορικό πόλεμο με την Ευρώπη, είναι ότι κανείς, μα κανείς, δεν μιλά για τον ψηφιακό κόσμο. Γιατί, άραγε;

Από τη μεριά των ΗΠΑ, ίσως, οι λόγοι είναι πιο φανεροί: Οι δασμοί αφορούν μόνο προϊόντα (αφού εκεί εντοπίστηκε το έλλειμμα), ενώ ο ψηφιακός κόσμος αφορά υπηρεσίες. Στις υπηρεσίες, από ό,τι φαίνεται, οι ΗΠΑ, τουλάχιστον σε σχέση με την Ευρώπη, έχουν ένα «μικρό» πλεόνασμα της τάξης των 300δις (σε σχέση με το 1τρις έλλειμμα στα προϊόντα).

Σωστά; Λάθος. Όπως είναι γνωστό οι υπηρεσίες στο ίντερνετ φορολογικά «εξαφανίζονται», μέσω τιμολογήσεων από Ιρλανδία για όλη την Ευρώπη και άλλων πρακτικών «φορολογικής βελτιστοποίησης». Με άλλα λόγια, ολόκληρη η Ευρώπη, καθένας από εμάς, πληρώνει απευθείας, κάθε μήνα, τις Microsoft, Amazon, Google, Facebook και λοιπές, όμως το εισόδημα σχεδόν εξαφανίζεται τόσο για τις χώρες κατανάλωσης (δηλαδή για όλες τις Ευρωπαϊκές χώρες) όσο και για τη χώρα παραγωγής (τις ΗΠΑ). Όμως, με την σημαντικότατη διαφορά ότι όλες αυτές οι «ψηφιακές» εταιρείες έχουν έδρα στις ΗΠΑ – επομένως, αργά ή γρήγορα εισόδημα θα εμφανιστεί εκεί με τον έναν ή τον άλλον τρόπο (πχ. μέσω εξαγορών, επενδύσεων σε startups, ή ακόμα και μέσω επιβλητικών κτηρίων γραφείων), κάτι που ποτέ δεν θα συμβεί στην Ευρώπη.

Επομένως, τα 300 δις πλεόνασμα των ΗΠΑ στις υπηρεσίες θα έλεγα (χωρίς να έχω δει από που πήρε ο Economist, απ’ όπου τα αντέγραψα, τα νούμερά του) ότι είναι πλασματικά, ότι δηλαδή ανταποκρίνονται μόνο σε ό,τι «φαίνεται», σε ό,τι τιμολογείται απευθείας από τις ΗΠΑ, κάτι που όμως στον ψηφιακό κόσμο είναι η εξαίρεση και όχι ο κανόνας.

Είναι μόνο αυτό; Όχι φυσικά – αυτό είναι το μικρότερης σημασίας. Αυτό που έχει τη μεγαλύτερη σημασία είναι η τεχνολογική εξάρτηση από τις ψηφιακές τεχνολογίες των ΗΠΑ. Αυτό το σημείο δεν νομίζω ότι χρειάζεται να διευκρινιστεί περισσότερο εδώ: στην ουσία καθετί που χρησιμοποιεί καθένας από εμάς στην Ευρώπη οποιαδήποτε στιγμή εργάζεται ή βρίσκεται στον ψηφιακό κόσμο παράγεται, και ελέγχεται απευθείας, από εταιρείες που έχουν έδρα στις ΗΠΑ.

Αν οι ΗΠΑ έχουν τους δικούς τους λόγους να μην ασχολούνται με δασμούς (ταρίφες) στον ψηφιακό κόσμο, τι λόγους έχει άραγε η Ευρώπη να μην αντεπιτεθεί ακριβώς εκεί; Γιατί άραγε συζητάμε περισσότερο για το αλκοόλ (γαλλικά και ιταλικά κρασιά απέναντι από το bourbon) και καθόλου για το ίντερνετ;

Υποθέτω ότι η Ευρώπη δεν ασχολείται με τον ψηφιακό κόσμο επειδή δεν είναι καθόλου έτοιμη να το κάνει. Ακόμα και αν μπορούσε να επιβάλει δασμούς στην Microsoft, στην Google, στην Amazon ή στα κοινωνικά δίκτυα, τα μέτρα αυτά αυτομάτως θα έκαναν αντιλαϊκές τις Βρυξέλλες σε καθέναν από εμάς, αφού καθένας θα έβλεπε ξαφνικά το μηνιαίο κόστος του MS Office του, των online διαφημίσεών του, ή της online πλατφόρμας όπου βλέπει ταινίες ή ακούει μουσική (για να χρησιμοποιήσω μόνο λίγα από τα, δεκάδες, καθημερινά παραδείγματα για καθέναν μας) να εκτοξευόταν. Ποιος Ευρωπαίος πολιτικός θα άντεχε κάτι τέτοιο;

Η κατάσταση, επομένως, που επικρατεί σήμερα στον ψηφιακό κόσμο θα μπορούσε να περιγραφεί ως μια «ισορροπία τρόμου», όπου οι ΗΠΑ δεν θέλουν να χάσουν το στρατηγικό τους πλεονέκτημα και η Ευρώπη κινδυνεύει να πυροβολήσει τα πόδια της, αν τυχόν και αποφασίσει να αντεπιτεθεί. Επομένως, και οι δύο προτιμούν να ασχολούνται με το αλκοόλ, ή έστω με τα αυτοκίνητα, παρά με το ίντερνετ.

Πως θα εξελιχτεί η κατάσταση; Αυτό κανείς δεν μπορεί να το προβλέψει – όπως κανείς δεν μπορούσε να προβλέψει πριν 10-20 χρόνια ότι θα φτάναμε εδώ σήμερα. Αν έπρεπε να μαντέψω, θα έλεγα ότι ζούμε σε μια μεταβατική περίοδο όπου τα κράτη (ή, σωστότερα, η Ευρώπη, αφού καθένα από τα κράτη-μέλη της χωριστά είναι ανίσχυρο μπροστά στο παγκόσμιο φαινόμενο που λέγεται ψηφιακός κόσμος) δεν έχουν αντεπιτεθεί, περιχαρακώνοντας, τον ψηφιακό κόσμο «τους». Με άλλα λόγια, επειδή το φαινόμενο είναι πρόσφατο, η Ευρώπη έχει επιτρέψει, άθελά της, σε μια τρίτη χώρα (στις ΗΠΑ – όμως και η Κίνα, πχ. μέσω TikTok δεν είναι μακριά) να απευθύνεται και να συναλλάσσεται απευθείας με πολίτες της, παρακάμπτοντας τις εθνικές κυβερνήσεις. Αυτό το, ανήκουστο ιστορικά, φαινόμενο δεν πιστεύω ότι θα διαρκέσει – με τον έναν ή τον άλλον τρόπο τα κράτη θα επαναφέρουν την κυριαρχία στα εδάφη τους στα προ ίντερνετ επίπεδα. Ο εμπορικός πόλεμος που πάει να ξεσπάσει ίσως είναι η αρχή για καθέναν μας, περιλαμβανομένων των κυβερνήσεών μας, να αρχίσει να σκέφτεται περισσότερο «ευρωπαϊκά» στους ψηφιακούς τομείς που τον αφορούν. Προφανώς όμως, μέχρι κάτι τέτοιο να συμβεί, πίνοντας εμείς υπερτιμημένο bourbon και οι Αμερικανοί υπερτιμημένο κρασί, και οδηγώντας όλοι μας υπερτιμημένα αυτοκίνητα, χωρίς κανέναν απολύτως λόγο.

The Brussels Effect: Hampered by our own hand?

Published on LinkedIn,15.03.2025

A phenomenon (either in the social or in the natural sciences), once identified and brought to public attention, can take either one of two directions: it can stay as it is, admired or deplored depending on the viewer, but basically unaffected; or, something can be done about it, it can either be nudged and furthered, if deemed worth the effort, or it can be suppressed.

Little needs to be said by now as regards the so-called “Brussels Effect”, the magnetic, imitative influence exercised by new regulation released in the EU in other parts of the planet. Ever since it was first identified it has been hailed by regulators and legal scholars and deplored by economists and entrepreneurs within the context of a (fundamental, basic) confrontation that does not seem likely to subside any time soon.

1. My starting point(s)

Because this is a legal post written by a legal scholar, the Brussels Effect will be considered worth the effort to be nudged, so as for it to be furthered (on a few less subjective reasons, why I assess the phenomenon positively, see paragraph 6 below). In other words, I think that we, in the EU, need to do more in order to untap its potential (whatever that may be).

My second starting point, however, is that the EU is, for the moment, doing nothing at all specifically to further the Brussels Effect. Although theAI Act may soon join the GDPR in exercising global influence, thus solidifying the Brussels Effect, this may happen incidentally,  unintented by the EU, as part of its normal course of business. No specific measures, in Brussels or elsewhere in Europe, are taken specifically in order to help the Brussels Effect grow.

If this is, then, the case, what could be done about it? The action list that follows refers to each stakeholder in the regulatory sector: law schools, law publishers and editors, the courts, and, last but not least, governments; their order of appearance lists the less controversial proposals first.

2. Law publishers and editors to address the new publications’ bottleneck effect

This may be an empirical finding, but I imagine that most colleagues (after all, as said, this is a legal post written by a legal scholar) would agree that the publishing process in English-speaking legal journals focusing on EU law and digital technologies is both too slow and too difficult (or, if you prefer, highly selective). Too many scholars from all over the world compete for too few publishing spots in a handful of journals – in a process that takes months to complete.

In other words, what was twenty or thirty years ago a niche topic served well by a couple of reputable legal journals held alive by the efforts or one or two self-sacrificing colleagues is no longer a sustainable model to accommodate the (new papers’) tsunami result of the Brussels Effect.

While I am not someone who would exchange quality for quantity (even if this is a totally justifiable approach, too!) the bottleneck effect experienced today in journals focusing on EU law and digital technologies urgently needs to be addressed. If EU law publishers and editors wish to support the Brussels Effect by allowing to legal scholars from all over the world to present their best work on their pages, then the total number of these pages needs to increase exponentially. We urgently need more legal journals, on EU law, in English, maintained by well-organised groups of academics, taking advantage of the latest platform-submission technologies (therefore, yes, parallel submissions should not be a forbidden word in Europe any longer!).

3. Authors and editors to address the legal referencing issue

This is an older proposal, and little needs to said in that regard: it is a totally unacceptable condition for EU law to be referenced though US (Harvard, Chicago, etc.) referencing systems. The legal community needs to, urgently, react releasing a new EU-specific system and enforcing it on all EU publications.

4. Courts (and national governments) to address the legal fragmentation issue

The law is a notoriously (most likely, the only) fragmented science: whatever is practiced, taught and learned in one country most likely does not apply in any other. EU law is an exercise of legal imperialism, from this point of view: Napoleon’s grenadiers replaced by lawyers with laptops.

Whatever the case may be, since we are found in the middle of a legal experiment anyway, we should at least make the best out of it. National courts produce an immense wealth of case law on all topics affecting Europeans. This case law is both inaccessible to most, because it is written in national languages, as well as, undiscoverable, organised in national, custom numbering systems.

While the former can be resolved (with some help, perhaps, from AI) the latter is an already identified but still unresolved problem: although the EU has taken the first step, releasing the ECLI system, little use is made of it in practice, leading to huge loss of information. Courts ought to insist in its application on each and every one of their decisions – warranting, at the same time, that their decisions are findable by (and that they thus matter to) all Europeans.

5. Law schools (and national governments) to address the legal fragmentation issue

Law schools ought to become bilingual, at least when teaching and working on EU law. In an age of act-ification there is little reason to continue teaching (and writing legal analyses) on EU law in national languages, meaning accessible only to local students and scholars. Instead, English ought to become the lingua francain this regard.

There was a time, some thirty or forty years ago (most certainly prior to the introduction of the Single Market, but also shortly thereafter), when national analysis of EU law mattered, because EU law was in fact distilled into the national legal system, effected through national legislation.

However today this has changed. EU law is by now the first to produce legal texts in digital technologies’ relevant fields – not harmonizing national approaches any longer (admittedly, under an EU law brutality approach). The GDPR has been imprinted as such to the minds (and hearts!) of all Europeans. The same is the aim of the AI Act. This being the case, there is little excuse for law schools and national (legal scholar resources) to continue teaching, writing and learning in their respective national languages – because, quite simply, whatever any scholar anywhere in Europe now has to say about EU law interests and affects everybody, and needs to be heard, and understood, by everybody.

6. Why should we do anything at all?

The above, I think, need to be done if we wish to see the Brussels Effect furthered. However, other than my own personal (most likely biased, because I am lawyer) opinion, the point remains: Why should we do that? Why should we do anything at all? Especially, at times when over-regulation seems to be a severe EU-illness, as most recently claimed in Draghi’s report, and repeated by practically every businessman on both sides of the Atlantic?

The answer is simple: because this is who we are – and this is what we do. The EU is a legal experiment; it is law not money (at least for the time being) nor military power (as was the case in the past and may again become the case in the future) that lies at its basis.  While we may have a Single Market, it is in fact a legal Single Market, it is legal barriers that have been removed. We still have some time ahead of us until a money Single Market emerges.

Consequently, while some social engineering may be useful and recommended, a lot of it is not – it would not work. In other words, it is better for us to play to our strengths and live to fight another day in the sectors where we fall behind, than to completely change direction within the context of a, forced and artificial, top-down approach.

7. A concluding remark – what is already out there

The last sentence above, meaning the dislike for a top-down approach, betrays my views on what is already good out there, what has been already accomplished – and why money is, thus, not needed. A European successful online repository system is already in place: SSRN works well, and, I think, can be successfully complemented by Open Research Europe. Online platforms, such as ResearchGate, are also established and promising. Money is also, plentiful: the EU spends large sums in legal research, be it fundamental or applied. Research networks (in the likes of Erasmus+ or Eutopia) are already producing good results. Most importantly, however, the EU continues to produce solid regulatory texts that are placed at the forefront of global developments, boldly dealing with topics that no other legislator on the planet dares to go near. In other words, this is not a hopeless effort – far from it. What is only needed for the phenomenon to flourish is for it to be embraced and strengthened – this time, however, as part of a concrete EU-wide policy.

Kindle (paperwhite) 15 χρόνια μετά: μήπως ήρθε (πια) η ώρα του;

Δημοσιεύθηκε στο dEasy, 10.02.2025

Για όσους από εμάς (τυχεροί ή άτυχοι, δεν ξέρω) ζούμε από τα κείμενά μας έχει ενδιαφέρον κάπου-κάπου να ανασύρουμε κάποια από το παρελθόν ώστε να διαπιστώνουμε αν όσα είδαμε, και σκεφτήκαμε, τότε άλλαξαν στο μεταξύ. Κάπως έτσι ανέσυρα από το αρχείο του deasy ένα παλιό κείμενό μου (από το 2010!) για το Kindle, με την ευκαιρία της πρόσφατης αγοράς ενός νέου, του paperwhite edition.

Λοιπόν, αυτή είναι μια περίπτωση που τα πράγματα άλλαξαν – προς το καλύτερο, νομίζω. Το 2010 είχα εντοπίσει ένα σωρό προβλήματα, από την ποιότητα του υλικού και την ευκολία να το προμηθευτούμε στην Ελλάδα μέχρι την έλλειψη τίτλων. Ήταν αυτές ακριβώς οι ελλείψεις, άλλωστε, που με είχαν κάνει να εγκαταλείψω το πείραμα – η συσκευή μου ποτέ δεν ανανεώθηκε τα τελευταία 15 χρόνια. Όποιες ανάγκες είχα σε ψηφιακό διάβασμα (όλο το επαγγελματικό μου διάβασμα είναι ψηφιακό εδώ και χρόνια) τις κάλυπτα με συνδυασμό tablet και υπολογιστή. Το διάβασμα ψυχαγωγίας παρέμεινε σε χαρτί.

Όμως τα 15 χρόνια που μεσολάβησαν δεν άλλαξαν μόνο το Kindle (και την amazon, άλλωστε, τότε ο ιδιοκτήτης της δεν ήταν ο πιο πλούσιος άνθρωπος του κόσμου, ακόμα βιβλία, κυρίως, πουλούσε…) αλλά και εμένα. Ό,τι παλιά δεν μου δημιουργούσε πρόβλημα (για παράδειγμα, να κρατάω για ώρες πολυσέλιδους τόμους στα χέρια μου ή η φωτεινότητα της οθόνης ενός tablet) τώρα πια έχει γίνει θέμα. Επομένως, αφού όλοι ορκίζονται στο όνομα του kindle ως μηχανή ανάγνωσης, είπα να του ξαναδώσω μια ευκαιρία.

Η αλήθεια είναι ότι η νέα συσκευή δικαίωσε τις προσδοκίες μου. Στο σωστό μέγεθος και βάρος, με φωτεινότητα που αλλάζει μόνη της αναλόγως συνθηκών και με άπειρους τίτλους για κάθε γούστο και για κάθε ώρα, δεν υπάρχουν δικαιολογίες για να μην την χρησιμοποιήσει πια όποιος διαβάζει κάποιες λίγες ώρες καθημερινά.

Φυσικά, οι βασικές παραδοχές του δεν έχουν αλλάξει (και εδώ νιώθω κάπως δικαιωμένος σε σχέση με το 2010): το Kindle δεν μπορεί να σταθεί μόνο του. Χρειάζεται ψηφιακή βιβλιοθήκη, η οποία θα «κάθεται» είτε σε app είτε (ακόμα καλύτερα) σε folder του υπολογιστή μας. Παρότι «χωράει» χιλιάδες βιβλία, ούτε καλή οργάνωση έχει εσωτερικά ούτε το hardware εμπνέει για πολλές ώρες εργασίας με αντικείμενο την οργάνωση αρχείων.

Αν θέλαμε να πάμε και λίγο παρακάτω, το kindle δεν προσφέρεται ούτε για και επαγγελματικό ψηφιακό διάβασμα. Ούτε καλές δυνατότητες σημειώσεων έχει, ούτε επιτρέπει την περαιτέρω διαχείρισή τους – όχι εύκολα πάντως, όπως θα το έκανε ένα σύστημα laptop-tablet.

Επομένως, το kindle είναι, για μένα τουλάχιστον, μια πάρα πολύ καλή μηχανή ανάγνωσης ψυχαγωγίας. Είναι το βιβλίο που θέλει κανείς να έχει μαζί του στον καναπέ, στην παραλία, στο καφέ, σε ουρά αναμονής. Είναι η καθημερινή συσκευή που θα ήθελε κανείς να κουβαλάει μαζί του, σε περίπτωση που του δοθεί η ευκαιρία να διαβάσει μια-δυο σελίδες παραπάνω ή να φρεσκάρει τη μνήμη του για κάτι που διάβασε πρόσφατα.

Ίσως τελικά αυτή αυτό να είναι το μέλλον της ανάγνωσης ούτως ή άλλως. Οι επαγγελματικοί τίτλοι (τουλάχιστον στον τομέα μου) σιγά-σιγά δεν εκτυπώνονται πια σε χαρτί. Οι υπόλοιποι, από ό,τι βλέπω στην αγορά σήμερα εκδίδονται ταυτόχρονα και σε χαρτί και ψηφιακά. Η φορητή συσκευή ανάγνωσης, που ωρίμασε μαζί μας μέσα από τα χρόνια, είναι, πλέον, μονόδρομος.

Τι μας μαθαίνει το Apple Watch για την Ευρώπη σήμερα

Δημοσιεύθηκε στο dEasy, 23.01.2025

Πριν λίγες μέρες αναγκάστηκα ν’ αλλάξω smartwatch. Αντί να πάρω ακριβώς το ίδιο, σκέφτηκα να αγοράσω ένα από εκείνα με την αυτόνομη σύνδεση κινητής τηλεφωνίας (δηλαδή, με τη δική τους esim, που δεν χρειάζονται το κινητό σε απόσταση bluetooth για να λειτουργήσουν). Παρότι το κόστος ήταν μεγαλύτερο, σκέφτηκα ότι η ανεξαρτησία από συσκευή κινητού (που πλέον είναι όλες βαριές και ογκώδεις) θα μου επέτρεπε να παίρνω χωρίς επιπλέον βάρος και με μεγαλύτερη ασφάλεια «τα βουνά», σε απομακρυσμένες αθλητικές δραστηριότητες.

Η έκπληξη βέβαια ήρθε μετά την αγορά, όταν διαπίστωσα ότι η σύνδεση κινητής στα smartwatch δεν λειτουργεί – στην Ελλάδα τουλάχιστον. Το έψαξα λίγο παραπάνω, άλλωστε η ίδια η Αpple παρέχει σχετική λίστα. Από όλη την Ευρώπη μόνο 2-3 χώρες παρέχουν πραγματικά την υπηρεσία, δηλαδή από όλους τους παρόχους τους τηλεπικοινωνιών στο εσωτερικό τους. Στη συντριπτική πλειοψηφία των περιπτώσεων μόνο ένας ή το πολύ δύο πάροχοι την καλύπτουν – σε αρκετές μάλιστα χώρες, όπως η δική μας, η υπηρεσία δεν προσφέρεται καθόλου (παρότι και η Vodafone και ο όμιλος DT σε άλλες χώρες την παρέχουν). Φυσικά, για roaming ούτε κουβέντα – οι υποσημειώσεις και τα disclaimers για κάθε μια χώρα και πάροχο έχουν πάρει φωτιά στις ιστοσελίδες της apple.

Αυτό εδώ όμως δεν είναι ένα κείμενο να παραπονεθώ για την έλλειψη στην Ελλάδα: αφενός έπρεπε να είχα κάνει την έρευνά μου από πριν, και αφετέρου, αλλοίμονο αν το μόνο μας πρόβλημα ήταν εκείνο όσων από εμάς («περίεργων») θέλουν να πάρουν τα βουνά χωρίς το κινητό τους.

Αντιθέτως, το κείμενο αυτό είναι για να μας δείξει, με απλό τρόπο, την κατάσταση στην Ευρώπη σήμερα. Κάθε μια χώρα είναι μόνη της, η αγορά είναι κατακερματισμένη, ασύνδετη, και, αντικειμενικά, πίσω. Η δυνατότητα της esim στα smartwatch δεν είναι καινούργια, παρέχεται εδώ και 4-5 χρόνια από τους κατασκευαστές κινητών. Όταν στην Αμερική (και στην Κίνα, υποθέτω) η χρήση της θεωρείται δεδομένη, στην Ευρώπη ακόμα συζητάμε ποιος (ίσως) πάροχος την παρέχει και αν λειτουργεί κανονικά σε κάθε μια χώρα της.

Πριν λίγους μήνες η «έκθεση Ντράγκι», που πολύ φοβάμαι ότι θα γίνει η «Βίβλος» σε μια Ευρώπη που έχει στερέψει από ιδέες, μας είπε ότι για την κατάσταση στην Ευρώπη φταίνε οι πολλοί και αυστηροί νόμοι, και ότι θα πρέπει να χαλαρώσουμε τους νόμους και να «αδειάσουμε ένα κουβά», δημόσιου, χρήματος στις εταιρείες, ώστε να γίνουν ανταγωνιστικές.

Προφανώς, ο κύριος Ντράγκι δεν φοράει smartwatch…

The AI Act and a (sorely missing!) right to AI individualization; Why are we building Skynet?

Published in the European Law Blog, 16.07.2024

The industry has tricked us; Scientists and regulators have failed us. AI is developing not individually (as humans become individuals) but collectively. A huge collective hive to collect, store and process all of humanity’s information; a single entity (or a few, interoperability as an open issue today as their operation itself) to process all our questions, wishes and knowledge. The AI Act that has just been released ratifies, for the moment at least, this approach: EU’s ambitious attempt to regulate AI deals with it as if it was simply a phenomenon in need of better organisation, without granting any rights (or participation, thus a voice) to individuals. This is not only a missed opportunity but also a potentially risky approach; while we may not be building Skynet as such, we are accepting an industry-imposed shortcut that will ultimately hurt individual rights, if not individual development per se.

This mode of AI development has been a result of short-termism: an, immediate, need to get results quickly and to make a ‘fast buck’. Unlimited (and unregulated, save for the GDPR) access to whatever information is available for processing obviously speeds things up – and keeps costs down. Data-hungry AI models learn faster through access to as-large-as-possible repositories of information; then, improvements can be fed into next-generation AI models, that are even more data-hungry than their predecessors. The cycle can be virtuous or vicious, depending how you see it.

In 1984 iconic film The Terminator humans fought against Skynet, “an artificial neural network-based conscious group mind and artificial general superintelligence system”. Skynet was a single, collective intelligence (“group mind”) that quickly learned everything that humans knew and controlled all of the machines. Machines (including, Terminators) did not develop independently, but as units within a hive, answering to and controlled by a single, omnipresent and omnipotent entity – Skynet.

Isn’t this exactly what we are doing today? Are we not happy to let Siri, Alexa, ChatGPT (or whatever other AI entity the industry and scientists launch) process as a single entity, a single other-party with which each one of us interacts, all of our information through our daily queries and interactions with them? Are we not also happy to let them control, using that same information, all of our smart devices at home or at the workplace? Are we not, voluntarily, building Skynet?

But, I do not want to be talking to (everybody’s) Siri!

All our AI end-user software (or otherwise automated software assistants) is designed and operates as a single, global entity. I may be interacting with Siri on my iPhone (or Google Assistant, Alexa, Cortana etc.), asking it to carry out various tasks for me, but the same do millions of other people on the planet. In essence, Siri is a single entity interacting simultaneously with each one of us. It is learning from us and with us. Crucially, however, the improvement from the learning process goes to the one, global, Siri. In other words, each one of us is assisted individually through our interaction with Siri, but Siri develops and improves itself as a one and only entity, globally.

The same is the case today with any other AI-powered or AI-aspiring entity. ChatGPT answers any question or request that pops in one’s mind, however this interaction assists each one of us individually but develops ChatGPT itself globally, as a single entity. Google Maps drives us (more or less) safely home but at the same time it catalogues how all of us are able to move on the planet. Amazon offers us suggestions on books or items we may like to buy, and Spotify on music we may like to listen to, but at the same time their algorithms learn what humans need or how they appreciate art.

Basically, if one wanted to trace this development back, they would come across the moment that software transformed from a product to a service. In the beginning, before prevalence of the internet, software was a product: one bought it off-the-shelf, installed it on their computer and used it (subject to the occasional update) without having anything to do with the manufacturer. However, when each and every computer and computing device on the planet became interconnected, the software industry, on the pretence of automated updates and improved user experience, found an excellent way to increase its revenue: software became not a product but a service, payable in monthly instalments that apparently will never stop. Accordingly, in order to (lawfully) remain a service, software needed to remain constantly connected to its manufacturer/provider, feeding it at all times with details on our use and other preferences.

No user was ever asked about the “software-as-a-service” transformation (governments, particularly from tax-havens, happily obliged, offering tax residencies for such services against competitive taxation). Similarly, no user has been asked today whether they want to interact with (everybody’s) Siri. One AI-entity to interact with all of humanity is a fundamentally flawed assumption. Humans  act individually, each one at their own initiative, not as units within a hive. The tools they invent to assist them they use individually. Of course it is true that each one’s personal self-improvement when added up within our respective societies leads to overall progress, however, still, humanity’s progress is achieved individually, independently and in unknown and frequently surprising directions.

On the contrary, scientists and the industry are offering us today a single tool  (or, in any case, very few, interoperability among them still an open issue) to be used by each one of us in a recordable and processable (by that tool, not by us!) manner. This is unprecedented in humanity’s history. The only entity so far to, in its singularity, interact with each one of us separately, to be assumed omnipresent and omnipotent, is God.

The AI Act: A half-baked GDPR mimesis phenomenon

The biggest shortcoming of the recently published AI Act, and EU’s approach to AI overall, is that it deals with it only as a technology that needs, better, organisation. The EU tries to map and catalogue AI, and then to apply a risk-based approach to reduce its negative effects (while, hopefully, still allowing it to, lawfully, develop in regulatory sandboxes etc.). To this end the EU employs organisational and technical measures to deal with AI, complete with a bureaucratic mechanism to monitor and apply them in practice.

The similarity of this approach to the GDPR’s approach, or a GDPR-mimesis phenomenon, has already been identified. The problem is that, even under this overly protective and least-imaginative approach, the AI Act is only a half-baked GDPR mimesis example. This is because the AI Act fails to follow the GDPR’s fundamental policy option to include the users (data subjects) in its scope. On the contrary, the AI Act leaves users out.

The GDPR’s policy option to include the users may appear self-evident now, in 2024, however it is anything but. Back in the 1970s, when the first data protection laws were being drafted in Europe, the pendulum could have swinged towards any direction: legislators may well have chosen to deal with personal data processing as a technology only in need of better organisation, too. They could well have chosen to introduce only high-level principles on how controllers should process personal data. However, importantly, they did not. They found a way to include individuals, to grant them rights, to empower them. They did not leave personal data processing only to organisations and bureaucrats to manage.

This is something that the AI Act is sorely missing. Even combined with the AI Liability Directive, still it leaves users out of the AI scene. This is a huge omission: users need to be able to participate, to actively use and take advantage of AI, and to be afforded with the means to protect themselves from it, if needed.

In urgent need: A (people’s) right to AI individualisation

It is this need for users to participate in the AI scene that a right to AI individualisation would serve. A right to AI individualisation would allow users to use AI in the way each one sees fit, deliberately, unmonitored and unobserved by the AI manufacturer. The link with the provider, that today is always-on and feeds all of our innermost thoughts, wishes and ideas back to a collective hive, needs to be broken. In other words, we only need the technology, the algorithm alone, to train it and use it ourselves without anybody’s interference. This is not a matter simply of individualisation of the experience on the UX end, but, basically, on the backend.-The ‘connection with the server’, that has been forced upon us through the Software-as-a-Service transformation, needs to be severed and control, of its own, personalised AI, should be given back to the user. In other words,  We need to be afforded the right to move from (everybody’s) Siri to each one’s Maria, Tom, or R2-D2.

Arguably, the right to data protection serves this need already, granting us control over processing of our personal data by third parties. However, the right to data protection involves  the, known, nuances of, for example, various legal bases permitting the processing anyway or technical-feasibility limitations of rights afforded to individuals. After all, it is under this existing regulatory model, that remains in effect, that today’s model of AI development was allowed to take place anyway. A specific, explicitly spelled-out right to AI individualisation would address exactly that; closing existing loopholes that the industry was able to take advantage of, while placing users in the centre.

A host of other considerations would follow the introduction of such a right. Principles such as data portability (art. 20 of the GDPR), interoperability (art. 6 of EU Directive 2009/24/EC) or, even, a right to be forgotten (art. 17 of the GDPR) would have to be revisited. Basically, our whole perspective would be overturned: users would be transformed from passive recipients to active co-creators, and AI itself from a single-entity monolith to a billion individualised versions, same as the number of the users it serves.

As such, a right to AI individualisation would need to be embedded in systems’ design, similar to privacy by-design and by-default requirements. This is a trend increasingly noticeable in contemporary law-making: while digital technologies permeate our lives, legislators find that sometimes it is not enough to regulate the end-result, meaning human behaviour, but also the tools or methods that led to it, meaning software. Soon, software development and software systems’ architecture will have to pay close attention to (if not be dictated by) a large array of legal requirements, found in personal data protection, cybersecurity, online platforms and other fields of law. In essence, it would appear that, contrary to an older belief that code is law, at the end of the day (it is) law (that) makes code.