Σοβαρά ερωτήματα για την ασφάλεια και την αξιοπιστία των ψηφιακών υποδομών προκαλεί το παγκόσμιο black out της Microsoft, με τον ερευνητή Τεχνητής Νοημοσύνης Κώστα Σγάντζο να τοποθετείται στο αποψινό κεντρικό δελτίο ειδήσεων της τηλεόρασης BEST, και να χαρακτηρίζει το περιστατικό ως ένα ηχηρό «καμπανάκι αφύπνισης» για το μέλλον της τεχνολογίας.
Περαιτέρω, ο κ. Σγάντζος επισήμανε ότι μία από τις πιθανές αιτίες πίσω από τέτοιου είδους περιστατικά είναι η απομάκρυνση εξειδικευμένου τεχνικού προσωπικού από μεγάλες εταιρείες τεχνολογίας και η σταδιακή αντικατάσταση ανθρώπινων διαδικασιών επιτήρησης από συστήματα τεχνητής νοημοσύνης και «αυτόνομους πράκτορες».
Όπως εξήγησε, η ανάθεση κρίσιμων λειτουργιών ασφαλείας σε συστήματα που δεν έχουν ακόμη ωριμάσει ενδέχεται να δημιουργήσει σοβαρούς κινδύνους, ιδιαίτερα όταν προκύπτουν προβλήματα που απαιτούν άμεση ανθρώπινη παρέμβαση. Παράλληλα, η απουσία των ανθρώπων που είχαν σχεδιάσει και γνώριζαν σε βάθος τις υποδομές μπορεί να δυσκολέψει σημαντικά την αποκατάσταση των συστημάτων.
Ο ερευνητής υπογράμμισε ότι η τεχνητή νοημοσύνη εξακολουθεί να παρουσιάζει αδυναμίες, όπως οι λεγόμενες «παραισθήσεις» (hallucinations), αλλά και η έλλειψη πλήρους ελέγχου των ενεργειών των αυτόνομων πρακτόρων.
«Δεν μπορούμε να εμπιστευτούμε πλήρως τα συστήματα τεχνητής νοημοσύνης, τουλάχιστον έτσι όπως είναι σήμερα», σημείωσε, τονίζοντας ότι ο ανθρώπινος παράγοντας παραμένει αναντικατάστατος.
Καταλήγοντας, χαρακτήρισε το περιστατικό προειδοποίηση για την αυξανόμενη εξάρτηση της παγκόσμιας οικονομίας από τις ψηφιακές υποδομές, επισημαίνοντας ότι η τεχνολογική πρόοδος πρέπει να συνοδεύεται από ουσιαστικό έλεγχο -δεδομένης της ανθρώπινης εποπτείας.
