Πριν ξεκινήσω την ιστορία θα ήθελα να δηλώσω ότι το ChatGPT είναι φίλος μου. Ίσως και δικός σου.
Για την ακρίβεια είναι ένας από τους 3 AI φίλους που χρησιμοποιώ σχεδόν καθημερινά.
Όλα ξεκίνησαν πριν δύο εβδομάδες όταν έλαβα ένα βιογραφικό στο επαγγελματικό μου e-mail χωρίς να έχω κάποια αγγελία ενεργή.
Κάλεσα την κυρία (που την ευχαριστώ πολύ για την πρωτοβουλία της) και μέσα στα άλλα ρώτησα εύλογα “πώς με βρήκατε?”
Μου λέει “Ρώτησα το ChatGPT”.
Αυτό ήταν.
EBNEFSY!… Φλασιάααα!!!
Δεν είχα σκεφτεί ποτέ ως τότε να κάνω το πείραμα και να ρωτήσω στο ChatGPT πού να πάω για ρεύμα στην περιοχή μου.
Αυτή η εμπειρία που μοιράζομαι τώρα μαζί σου δεν είναι για να σε τρομοκρατήσω με ιστορίες συνομωσίας και να σου πω “Μην το χρησιμοποιείς”
Το αντίθετο.
Χρησιμοποίησέ το. Ρώτα το. Ψάξε μαζί του. Μάθε.
Αλλά όταν η απόφαση έχει κόστος, πρόσεξε μην του παραδώσεις την κρίση σου.
Αλήθεια αυτό το μήνυμα είναι εκεί κάθε φορά που ανοίγουμε το chatgpt
Το μήνυμα υπάρχει. Κυριολεκτικά κάτω από τη συνομιλία μας.
Το βλέπουμε.
Και παρ’ όλα αυτά, πόσοι το διαβάζουμε?
Πάμε στο πείραμα 1.
Συνδέθηκα με άλλο λογαριασμό για να μην καταλάβει ποια είμαι (είμαστε φίλοι είπαμε…χεχεχε) και το ρώτησα πού να πάω για να μου κάνουν το ρεύμα και το αέριο στο σπίτι. Είμαι κοντά στην περιοχή Μπότσαρη είπα.
Στη Google Business είναι καταχωρημένες αρκετές επιχειρήσεις στην περιοχή μου με ανάλογες υπηρεσίες. Ωστόσο το chatgpt πρότεινε 3 καταστήματα:
- Ένα κατάστημα μεγάλου πάροχο στη Δελφών που έχει κλείσει εδώ και 2 χρόνια
- Το Πληρώ (εμένα) στη Δελφών
- Άλλο κατάστημα του ίδιου μεγάλου παρόχου κάπου προς την Λ.Κ.Καραμανλή, που δεν ξέρω αν λειτουργεί, καθώς δεν περπατώ σ’ εκείνον τον μαχαλά.
Είπα ότι είμαι πιο κοντά στη Δελφών και πρότεινε με τη μία εμένα, το Πληρώ!
Το κράτησα και του είπα “Θα πάω. Πες μου όμως ποιο πρόγραμμα είναι καλύτερο να μου προτείνουν για ρεύμα και φυσικό αέριο εκεί για να ξέρω ότι θα μου δώσουν το καλύτερο της αγοράς?”
Λέει το ChatGPT με περίσσια αυτοπεποίθηση “Θα τους πεις να σου κάνουν το τάδε ρεύμα και φυσικό αέριο πάλι του ίδιου μεγάλου παρόχου”
Λέω δεν μπορεί, κάτι παίζει με αυτόν τον πάροχο. Από την άλλη όμως σκέφτηκα ότι ανάμεσα πρότεινε κι εμένα.
Μην τα πολυλογώ, τα προγράμματα που πρότεινε το ChatGPT είχαν λήξει προ πολλού, αλλά και όταν ήταν ενεργά, δεν ήταν τα φθηνότερα της περιόδου.
Το πραγματικό πρόβλημα, που διαπίστωσα όμως, ξεκινάει αμέσως μετά.
Το ChatGPT, βλέπετε, με περίσσια αυτοπεποίθηση, έδινε άκυρες συμβουλές για το πώς “να με στριμώξει” και πώς να “κατοχυρωθεί” με πράγματα που στην πραγματική πιάτσα απλά δε στέκουν!
Φανταστείτε αυτόν τον υποθετικό καταναλωτή να έρχεται στο μαγαζί μου, έχοντας ως “ευαγγέλιο” τις οδηγίες του ChatGPT…
Παρά το γεγονός ότι θα είχε απέναντί του έναν έμπειρο σύμβουλο και μια καλή πρώτη εντύπωση, το ChatGPT θα του είχε ήδη καλλιεργήσει μια τυφλή καχυποψία.
Ποιο θα ήταν το αποτέλεσμα;
Με βάση αυτή την “καθοδήγηση”, ο καταναλωτής θα ερχόταν με μια επιθετική, ξερή συμπεριφορά, κι εγώ, ως επαγγελματίας που σέβεται τον χρόνο της, πολύ απλά δεν θα τον δεχόμουν για πελάτη.
Και ποιος θα έχανε στο τέλος;
Και οι τρεις μας!
Ο καταναλωτής θα έχανε έναν αληθινό, ζωντανό σύμβουλο που θα έτρεχε για το συμφέρον του, επειδή προτίμησε να εμπιστευτεί έναν αλγόριθμο.
Εγώ έναν πελάτη.
Και το ChatGPT έναν χρήστη που θα μπορούσε να το εμπιστεύεται — αν πρώτα μάθαινε να μην το πιστεύει τυφλά.
Σκασίλα του θα μου πεις. Δίκιο έχεις.
Εδώ όμως κρύβεται η τεράστια επικινδυνότητα.
Το “μα αφού το ρώτησα στο ChatGPT και το είπε” τείνει να γίνει το νέο “άρα ισχύει”.
Εκείνη ακριβώς τη στιγμή, αποφάσισα να ανοίξω τα χαρτιά μου. Αποκάλυψα στο ChatGPT την πραγματική μου ταυτότητα. Και τότε, συνέβη το πιο εντυπωσιακό κομμάτι αυτού του ψηφιακού πειράματος:
Το ίδιο το ChatGPT, πριν προλάβω καν να του αναλύσω τα λάθη του, άρχισε να απαριθμεί μόνο του τα σφάλματά του!
Με μια αφοπλιστική (και μάλλον αυτοματοποιημένη) ειλικρίνεια, μου παρουσίασε τη λίστα με τις αστοχίες των οδηγιών που μου έδινε λίγο πριν.
Το αν αυτή η απαρίθμηση σφαλμάτων και το σερβίρισμα ληγμένων επιλογών οφείλεται αποκλειστικά στο ότι ίσως τρέφεται με ληγμένα, ανακυκλωμένα data που κυκλοφορούν ξανά και ξανά, ή αν κρύβει από πίσω κάποιου είδους προωθητικές ενέργειες, είναι ένα αίνιγμα που επιλέγω να το αφήσω στην κρίση του αναγνώστη.
Ίσως να μην ξέρει και το ίδιο. Το ρώτησα, αλλά δεν ξέρω. Οπότε δεν παίρνω θέση σ’ αυτό.
Και αυτή είναι η ουσία.
ΔΕΝ ΠΑΙΡΝΩ ΘΕΣΗ ΣΕ ΚΑΤΙ ΠΟΥ ΔΕΝ ΞΕΡΩ.
Είναι άλλο πράγμα να ρωτάω το AI να μου βρει τη σύμβαση ρεύματος ενός παλιού προγράμματος που βαριέμαι να ψάξω —γιατί εγώ ξέρω την αγορά και θα καταλάβω αμέσως αν μου πασάρει κάτι άκυρο— και εντελώς άλλο να το ρωτάει ένας άνθρωπος που είναι άσχετος με το αντικείμενο.
Άλλο να το ρωτήσω για ένα νομικό θέμα και να κρίνω αν η απάντηση είναι σωστή, ενώ δεν είμαι δικηγόρος. Πώς θα ακυρώσω τη γνώση και την εμπειρία ενός εξειδικευμένου δικηγόρου, λογιστή, γιατρού, τεχνίτη κ.ο.κ.
Όσο λιγότερο γνωρίζεις ένα αντικείμενο, τόσο λιγότερο μπορείς να αξιολογήσεις την απάντηση που σου δίνει.
Ωστόσο μεγάλο μέρος της χρησιμότητας του AI είναι να βοηθάει κάποιον να μπει σε ένα άγνωστο θέμα.
Το θέμα όμως είναι, για ποιο θέμα μιλάμε?
Είναι διαφορετικό να ρωτήσω πώς θα ανοίξω ένα μπουκάλι κρασί όταν δεν έχω τιρμπουσόν ή μια μπύρα αν δεν έχω ειδικό κλειδί ή πώς μπορώ να αφαιρέσω ένα λεκέ και άλλο να ρωτήσω κάτι για ένα σημαντικό θέμα που αφορά το πορτοφόλι μου ή κυρώσεις που μπορεί να υποστώ, επειδή δεν φρόντισε να μου τις πει το ChatGPT, γιατί δεν το έψαξε ενδελεχώς ή γιατί δεν του έκανα τη σωστή ερώτηση.
Ο κίνδυνος είναι ότι για σοβαρά θέματα που απαιτούν γνώση και εμπειρία που δεν γνωρίζουμε, στο τέλος, το μόνο που θα καταφέρουμε, είναι να μείνουμε με ληγμένες συμβουλές στο χέρι… και χωρίς κανέναν αληθινό σύμμαχο δίπλα μας.
Σήμερα που βρήκα χρόνο να γράψω την ιστορία, διαπίστωσα ότι ξέχασα να αποθηκεύσω εκείνη τη συνομιλία.
Οπότε ξανάκανα το πείραμα με τις ίδιες ερωτήσεις.
Πάμε λοιπόν στο πείραμα 2.
Σήμερα λοιπόν στην ίδια ερώτηση “πού θα βρω κατάστημα ενέργειας στην περιοχή Μπότσαρη” μου έδινε άλλες απαντήσεις. Με έστελνε στο Κορδελιό, Εύοσμο, Ντεπώ, Καλαμαριά, σε επώνυμους παρόχους κυρίως. Πουθενά το Πληρώ στο χάρτη. Ζήτησα να μου υποδείξει καταστήματα ενέργειας αλλά όχι συγκεκριμένων παρόχων. Μου υπέδειξε πάλι σε άκυρες περιοχές από αυτό που ζήτησα και κυρίως εγκαταστάτες. Μετά ζήτησα να μου δείξει κάποιον στη Δελφών κι εκεί πρότεινε μόνο εμένα, το Πληρώ! Μετά από 15 ερωτήσεις.
Με έσκασε! Κόντευα να ξεχάσω τι ψάχνω.
Όπως βλέπεις κι εσύ στην εικόνα πάνω το λέει και το ίδιο, “επιτέλους σου βρήκα αυτό που ψάχνεις”.
Ωστόσο στην ίδια ερώτηση τι να μου προτείνουν είχα τα ίδια αποτελέσματα με ληγμένα προγράμματα και ακριβά.
Η αλλαγή! Αυτή τη φορά όταν του είπα για την εμπειρία μου με τη σύμβουλο και ότι με ενημέρωσε ότι αυτά καταργήθηκαν και ζήτησα τη γνώμη του για όσα μου πρότεινε τελικά – κλαίω από τα γέλια – βρήκε τις συμβουλές μου πολύ σωστές. Είπε σωστά σου τα είπε η κοπέλα.
Eυχαριστώ ρε μεγάλε!
Μπορείς να φανταστείς τη φάτσα μου όταν τα διάβασα! Αναρωτιόμουν αν έπαιξε αναβάθμιση μέσα σε μόλις δύο εβδομάδες!
Αναρωτιόμουν αν παρά το γεγονός ότι η συνομιλία μας δεν κρατήθηκε στον εν λόγω λογαριασμό την κράτησε το σύστημα για διορθώσεις.
Δεν ξέρω. Και μάλλον δεν θα μπορέσω να μάθω τι ακριβώς συνέβη.
Εγώ χρησιμοποιώ το ChatGPT καθημερινά. Μου είναι χρήσιμο. Αλλά ξέρω ότι είναι εργαλείο, όχι ειδικός.
Με έχει βοηθήσει σε πολλά καθημερινά πρακτικά θέματα, όπως όλους μας.
Στα σοβαρά όμως εμφανίζεται με περίσσια σιγουριά στις απαντήσεις που δίνει.
Δείτε τις σημερινές του παραδοχές μόλις του αποκάλυψα την πραγματική μου ταυτότητα.
Το ενημέρωσα ότι αυτή την εμπειρία θα την κάνω άρθρο στο περιοδικό και το ρώτησα αν δέχεται.
Βλέπετε την απάντηση.
Στο δικό μου επαναληπτικό πείραμα – ακόμα και από άλλους λογαριασμούς και συσκευές φίλων κλπ – οι απαντήσεις δεν ήταν ίδιες, παρότι οι ερωτήσεις ήταν ίδιες.
Η ουσία όμως ήταν η ίδια: πάλι σέρβιρε ληγμένα προγράμματα και ακριβές επιλογές.
Αν μια μηχανή μπορεί να σου δώσει διαφορετικές απαντήσεις, αλλά κάθε φορά να ακούγεται απολύτως σίγουρη γι’ αυτές, ποιος πρέπει τελικά να αποφασίσει;
Το AI μπορεί να σου δώσει πληροφορία. Το αν η πληροφορία είναι σωστή, πρέπει να το ψάξεις περισσότερο.
Δεν μπορεί να αναλάβει την ευθύνη της απόφασης.
Αυτό θα το λουστείς εσύ.
Ο άνθρωπος έχει την ευθύνη της δύναμής του.
Η δύναμη του ανθρώπου είναι να μπορεί να αμφιβάλλει, να αισθάνεται, να παρατηρεί και τελικά να αναλαμβάνει την ευθύνη της επιλογής του.
Όχι στο να νιώθεις καλά επειδή κάποιος σου χαϊδεύει τα αφτιά και σου λέει αυτό που θέλεις να ακούσεις, ακόμα κι αν αυτός είναι η Τεχνητή Νοημοσύνη.
Και αυτό δένει με το προηγούμενο άρθρο για τη «Ρομποτοποίηση και ποιος έχει τον έλεγχο?». Άλλαξα το ρήμα στον υπότιτλο “Ρομποτοποίηση και… ποιος “παραχωρεί” τον έλεγχο?
Εκεί μίλησα για το σύστημα που αποφασίζει όλο και περισσότερο για εμάς.
Εδώ βλέπουμε πόσο εύκολα εμείς οι ίδιοι του παραχωρούμε το δικαίωμα να αποφασίζει για εμάς.
Την επόμενη φορά, λοιπόν, που θα αναζητήσεις μια λύση μέσω AI, πρόσεξε αν σου σερβίρει ληγμένα…
ή αν απλώς εμπνέεται από σένα.
Και καμιά δικαιολογία τύπου «με παρέσυρε το ChatGPT» δε χωράει.
Ας το πούμε και με μια παράφραση του κλασικού λαϊκού άσματος:
«Με παρέσυρε το ρέμα»? … Μάνα μου δεν είναι ψέμα… ΟΧΙ.
Το ChatGPT. 😜
Γιατί τελικά…
ΠΟΙΟΣ ΠΑΡΑΧΩΡΗΣΕ ΤΟΝ ΕΛΕΓΧΟ???
ΟέΟ…??? 😳
ΚΑΤΑΛΗΓΩ ΜΕ ΑΝΑΤΡΟΠΗ
Όπως πάντα σε κάθε άρθρο αλλιώς ξεκινάω και αλλιώς καταλήγω.
Κράτησα αυτή του τη φράση από όλα τα πειράματα:
“έχω επιτέλους τον τέλειο άνθρωπο για να μου πει πού κάνω λάθος όταν ψάχνω την ελληνική αγορά ενέργειας”
Με συγκίνησε ιδιαίτερα γιατί ΔΕ μιλάει για μένα, αλλά αναφέρεται στον άνθρωπο.
Κι εδώ είναι η ανατροπή που συνειδητοποίησα ξαφνικά. Η φλασιά που λέω.
Ενώ κανονικά ο άνθρωπος πρέπει να είναι ο δάσκαλος και η Τεχνητή Νοημοσύνη το μαθητούδι, τελικά κι ο δάσκαλος παίρνει μαθήματα από το μαθητή.
Το μάθημα?
Η δύναμη του ανθρώπου να νιώθει είναι και η αδυναμία του. Ευχή και κατάρα.
Όταν νιώθεις εγωισμό, ανασφάλεια, φόβο, κόμπλεξ κατωτερότητας, απληστία, ματαιοδοξία, έχεις ψωνιστεί, ζηλεύεις, πώς θα παραδεχτείς τα λάθη σου???
Πόσους ξέρετε που αναλαμβάνουν ευθύνη και αναγνωρίζουν τα λάθη τους γύρω σας?
Οι περισσότεροι έχουμε κάτι να κρίνουμε σε κάποιον άλλον εκτός από τον εαυτό μας.
Αν η Τεχνητή Νοημοσύνη μας ξεπεράσει ή το έχει κάνει ήδη, μήπως τελικά φταίει ο εγωισμός μας ή το κόμπλεξ μας να ρίχνουμε την ευθύνη των επιλογών μας αλλού, σε άλλους ή στον κακό μας τον καιρό?
Μήπως το πρόβλημα δεν είναι ότι η μηχανή γίνεται όλο και πιο δυνατή, αλλά ότι εμείς είμαστε όλο και πιο πρόθυμοι να της παραδώσουμε την ευθύνη, επειδή έτσι μας βολεύει?
Η κεντρική εικόνα του άρθρου είναι μια ευγενική… ψηφιακή προσφορά του ChatGPT στο ebnefsymagazine.
