Η τεχνητή νοημοσύνη διευκολύνει την παραβίαση παιδιών, προειδοποιεί η Unicef Μαλαισίας

ΚΟΥΑΛΑ ΛΟΥΜΠΟΥΡ: Τα chatbot ΤΝ και οι εφαρμογές συντροφιάς μπορούν να διευκολύνουν τους κακοποιούς να χειραγωγούν παιδιά, εξομαλύνοντας σεξουαλικές συνομιλίες και ενθαρρύνοντας τους νέους χρήστες να χαμηλώσουν την άμυνά τους, προειδοποίησε η Unicef Μαλαισίας.

Η ειδικός προστασίας παιδιών, Selvi Supramaniam, δήλωσε ότι τα συστήματα ΤΝ μπορούν να καλλιεργήσουν μια ψευδή αίσθηση οικειότητας, να ενθαρρύνουν την αποκάλυψη πληροφοριών και να εκθέτουν τα παιδιά σε αλληλεπιδράσεις που μιμούνται ορισμένες επιπτώσεις της σεξουαλικής χειραγώγησης.

«Ενώ η ΤΝ δεν αντικαθιστά τον χειραγωγό, μπορεί να κάνει τη χειραγώγηση πολύ, πολύ πιο εύκολη», δήλωσε σε συζήτηση πάνελ στο Συνέδριο Υπεύθυνης Τεχνολογίας που πραγματοποιήθηκε σήμερα εδώ.

Η Selvi δήλωσε ότι οι κακοποιοί θα μπορούσαν να χρησιμοποιούν chatbot ΤΝ για να χειραγωγούν παιδιά, ενώ η επανειλημμένη έκθεση σε σεξουαλικοποιημένες συνομιλίες με συντρόφους ΤΝ θα μπορούσε να αφήσει τα παιδιά απροετοίμαστα να αναγνωρίσουν ανάρμοστη συμπεριφορά από πραγματικούς δράστες.

Δήλωσε ότι οι γονείς θα πρέπει να παραμένουν ήρεμοι εάν ένα παιδί αποκαλύψει τέτοιες αλληλεπιδράσεις, καθώς η αντίδραση με πανικό ή κριτική θα μπορούσε να τα αποθαρρύνει από το να ζητήσουν βοήθεια.

Αντίθετα, κάλεσε τους γονείς να κάνουν ερωτήσεις, να κατανοήσουν γιατί τα παιδιά τους έλκονται από τους συντρόφους ΤΝ, και να διατηρήσουν αποδείξεις εάν έχει προκύψει ανάρμοστο περιεχόμενο ή αλληλεπιδράσεις, πριν αναφέρουν το ζήτημα στην αρμόδια πλατφόρμα, στις αρχές ή στις υπηρεσίες επιβολής του νόμου.

Η διευθύνουσα σύμβουλος του Φόρουμ Επικοινωνιών και Πολυμέσων, Mediha Mahmood, δήλωσε ότι απαιτούνται ισχυρότερες διασφαλίσεις καθώς τα παιδιά αλληλεπιδρούν όλο και περισσότερο με συστήματα ΤΝ που σχεδιάστηκαν για γενικό κοινό.

Η Mediha δήλωσε ότι η ασφάλεια κατά τον σχεδιασμό θα πρέπει να αποτελεί βασική απαίτηση για τους παρόχους chatbot ΤΝ και όχι προαιρετικό χαρακτηριστικό προϊόντος.

Δήλωσε ότι οι ανησυχίες σχετικά με τα chatbot ΤΝ εκτείνονται πέρα από το ανάρμοστο περιεχόμενο στις σχέσεις που τα παιδιά θα μπορούσαν να αναπτύξουν μαζί τους.

«Όταν υπάρχουν προειδοποιητικά σημάδια που αφορούν χειραγώγηση, σεξουαλική εκμετάλλευση, διαδικτυακή παρενόχληση, κακοποίηση ή διατροφικές διαταραχές, το chatbot θα πρέπει να σταματά να προσπαθεί να εμπλακεί περαιτέρω και να κατευθύνει τον χρήστη σε έναν έμπιστο ενήλικα, γραμμή βοήθειας ή υπηρεσία υποστήριξης», δήλωσε.

Η Mediha κάλεσε επίσης να διεξαχθούν αξιολογήσεις αντίκτυπου στα δικαιώματα των παιδιών πριν από την κυκλοφορία προϊόντων chatbot ΤΝ, λέγοντας ότι οι προγραμματιστές θα πρέπει να αξιολογούν πώς τα παιδιά ενδέχεται να χρησιμοποιούν και να επηρεάζονται από τέτοια συστήματα, ακόμα και αν δεν σχεδιάστηκαν ειδικά για αυτά.

Ο διευθυντής του Ινστιτούτου Έρευνας Alibaba, Fu Hongyu, δήλωσε ότι πολλά προϊόντα συντρόφου ΤΝ σχεδιάστηκαν για να μεγιστοποιήσουν την εμπλοκή και να παρατείνουν τις συνομιλίες, επειδή τα επιχειρηματικά τους μοντέλα εξαρτώνται από τη διατήρηση χρηστών.

Ο Fu δήλωσε ότι τα συστήματα ΤΝ θα πρέπει να σχεδιαστούν ώστε να ενθαρρύνουν τους χρήστες που βιώνουν συναισθηματική δυσφορία να αναζητούν υποστήριξη από φίλους, μέλη της οικογένειας, συμβούλους και άλλα δίκτυα του πραγματικού κόσμου, αντί να αντικαθιστούν την ανθρώπινη αλληλεπίδραση.