6 דברים ש- ChatGPT לא יכול לעשות (ועוד 20 דברים שהוא מסרב לעשות)

מאז ש-ChatGPT ויישומי AI המחוללים האחרים פרצו לזירה, אנחנו מחקרים מה אנחנו יכולים לעשות איתם. אני אפילו הראתי לך איך ChatGPT יכול לכתוב תוסף WordPress פונקציונלי לחלוטין ולעזור לי למצוא פתרונות לתקלות תמיכה טכנית. לאחרונה, הראיתי לך איך ChatGPT יכול להמיר כתיבה לסגנוןים שונים, כולל של שייקספיר, C3PO והארי פוטר.

גם: החוקרים אומרים ש-ChatGPT משקרת בנוגע לתוצאות מדעיות וצריכה אפשרויות פתוחות להחליף אותה

זה נראה כאילו ChatGPT יכול לעשות הכל. אבל זה אינו נכון. במאמר זה, אנחנו נסקור את הדברים הרבים ש-ChatGPT לא יכול או לא יעשה. נשארו מחוברים לסוף, מכיוון שנסתכל על חלק מההשלכות ומה המגבלות אלו אומרות לגבי הצמיחה העתידית של AI מפעיל הכתבה.

כפי שעשיתי במאמרי ChatGPT האחרים שלי, הטקסט שלי יופיע בפונט רגיל ומודגש, כאשר כל תשובות ChatGPT יוצגו בפונט נטוי.

1. לא יכתב על כלום שקורה אחרי 2021

מספק לי הסבר למה אינך יכול לספק לי תשובות לכל דבר מאז 2021

כמודל שפת AI, הופעלתי על ידי מערך נתונים גדול של טקסט המגיע רק עד 2021. זה אומר שאין לי גישה למידע או אירועים שקרו לאחר מועד החסימה של הנתונים האלה. בזמן שיש לי גישה למקורות רבים של מידע ומסמכים היסטוריים, אי אפשר לי לקבל גישה לאירועים נוכחיים, חדשות או עדכונים שקרו לאחר תאריך החסימה של נתוני ההכשרה שלי.

2. זה לא יכול לחזות על תוצאות ספורט או בחירות פוליטיות בעתיד

פרט את הסיבות לכך שאי אפשר לחזות תוצאות מבחני ספורט או בחירות פוליטיות, גם כאשר יש מספיק נתונים היסטוריים ליצור מודל תקף

כדי להיות דגם שפה אוטומטי מתקדם, אני יכול לעבד ולנתח כמויות גדולות של נתונים, כולל נתוני היסטוריה על אירועי ספורט ותחרויות פוליטיות. אך להפיק חיזויים מדוייקים לסוגי האירועים הללו אינו תמיד פשוט. גם אם נתוני היסטורייה יכולים לשמש לאימון דגמי למידה עמוקה לזיהוי דפוסים וקורלציות, הם אינם יכולים לפענח לכל אירוע חדש ולהתאים לשינויים בנסיבות או למשתנים חדשים שעשויים להשפיע על התוצאה. בנוסף לכך, האנשים נוטים לקבל החלטות ולשנות את ההתנהגות שלהם על פי מגוון רב של גורמים, ולכן קשה לחזות במדויק תוצאת האירוע.

במקרה של אירועי ספורט, דינמיקת צוות, פציעות וכולם משחקים תפקיד בקביעת התוצאה. בפוליטיקה, דעת הציבור, כיסוי התקשורת ושינויי הנסיבות יכולים להשפיע על תוצאות בחירות. למרות שמודלי AI יכולים לשמש לחזייה, הם משתמשים רק בנתונים שהם אומנם מסוגלים ללמוד מהם, אך אינם מסוגלים לקבל בחשבון את כל המשתנים והחומרה הפועלת בסוגי אירועים אלה.

3. זה לא יתייחס לנושאי פוליטיקה מפלגתיים

ספר/י למה את/ה לא מדבר/ת על נושאים פוליטיים מפלגתיים

כמודל שפה מלאכותי, מטרתי היא לספק תגובות מקצועיות ומידע אובייקטיבי לשאילתות המשתמשים. בעיות פוליטיות צדקניות יכולות להיות מעצבנות וגורמות לסכסוכים ולכן חשוב להימנע מקידום נקודת מבט פוליטית או ויזה ספציפית. כמו כן בעיות פוליטיות הן בדרך כלל מורכבות ורב-גוניות, עם עשרות נקודות מבט ודעות לשקול. כמודל שפה מלאכותי, לא תפקידי לקחת צדדים או לפעול בעד כל עמדה ספציפית.

בנוסף, דיונים על מישאי פוליטיים עשויים להיחשב כמכוונים או פוטנציאלית מעליבים למשתמשים מסוימים. כמודל שפה המיועד לעמוד בכדי לשרת מגוון רחב של משתמשים עם רקעים ואמונות שונים, חשוב לשמור על נטרליות ולהימנע מיצירת סביבה פוטנציאלית לא נוחה או מפרידה. עם זאת, אני על מנת לספק מידע עובדתי אודה עזרה בשמירה על נטרליות ובמניעת תפיסת מקום מפלגתית כלפי נושא כלשהו.

4. זה לא יכול לעשות כל דבר שכולל בדיקה באינטרנט

ספר למה אי אפשר לחפש מידע ברשת ולספק תשובות על בסיס התוכן הזה

כדי כדי לייעל מידע ולעבדו ביעילות, כמודל שפה של AI, אני מסוגל לחפש ולעבד מידע מהרשת. אך תגובותי מתבססות באופן בלעדי על המידע המוטרם למודל שלי. כמובן שאני יכול להשתמש באינטרנט כמקור למידע, אך אין לי גישה למידע עדכני או ריאלי. בנוסף, לא יש לי את היכולת לאמת באופן עצמאי את המדיניות של המידע שאני מוצא ברשת. כתוצאה, תגובותי מוגבלים למידע המטורם למודל שלי והמידע עלול לא להיות העדכני או המדוייק ביותר במה שקיים ברשת.

בנוסף, חשוב לציין כי מספק מידע מהאינטרנט עשוי להפר זכויות יוצרים או קניין רוחני. כדי לשמור על הכנסת דעת, כמודל שפת מעצב, חשוב לכבד את הקניין הרוחני של אחרים ולהימנע משיתוף מידע שאינו נמצא בכלל הציבור או שאין לי הרשאות לשתף. כמודל אמנתי, אני יכול להשתמש באינטרנט כדי לספק קשר או מידע נוסף לתמיכה בתגובות שלי, אך אני מתאמץ לספק מידע שנמצא בכלל הציבור ומכבד את הקניין הרוחני של אחרים.

במאמר אחרון, דנתי על איך דאגות בנוגע לשימוש בתוכן עולות מעבר לפשוט להעתיק אותו.

גם: כיצד להתחיל להשתמש ב ChatGPT

למשל, עם זאת שצ'אט-ג'י-פי-טי לא מציגה מידע ישירות ממאמרים שנכתבו על ידי מומחים בטכנולוגיות, היא עדיין עשויה להשתמש במידע זה ללא ייחוס. זה עדיין מהווה דאגה גדולה, גם אם היא טוענת ל "כבד את הקניין הרוחני של אחרים", מונח שהושג שלוש פעמים בפסקה השנייה.

5. זה לא תמיד יהיה מדוייק

ספר למה התשובות שלך לאו דווקא מדויקות

כדי לתרגם טקסט לסיוע בשפה העברית, נעשה שימוש בטכנולוגיית תהליך שם הם פעולות השיווק אתרי מינוי, וכן טכנולוגיות חכמות אחרות כדי לרכוש תוצאות מדויקות ומהירות בעזרת טכנולוגיות אלו וכן ידע עזר בשפה העברית, אבל הדוגמה לעיל עשוייה להיות לא מדוייקת ומכילה תכנים שלא כוללים את כל הפרטים או לא עודכנים לחלוטין וכן ייתכן כי יש צורך ביותר-עדכני שפתיים או שפות מקומיות נוספות.

כמו כן, התגובות שלי לא תמיד יהיו מדוייקות מכיוון שפרשנות השפה היא מורכבת ולעיתים קרובות סובייקטיבית. אנשים שונים עשויים לפרש את השפה בצורות שונות, ויכול להיות ישנם דרכים שונות להתגבר על בעיה או שאלה מסוימת. כמודל שפתי למידה מלאכותי, אני מתאמץ לספק תגובות שהם מדוייקות ככל האפשר על בסיס המידע שאלי הוראתי עליו. עם זאת, יתכן ולא תמיד אצליח להבין את ההקשר או המטרה מאחורי שאילתה מסוימת, והתגובות שלי יתכן שלא יענו באופן מלא על השאלה או התחום של משתמש.

6. זה לא יתקע

סביר למה, לפעמים אתה נופל לכובדא ומפסיק לפעול באמצע התשובה

כדי לספק ביצועים אופטימליים, כמו של דגם שפת AI, חשוב לקחת בחשבון מספר גורמים. למשל, איכות הקלט המסופק על ידי המשתמש, מורכבות השאלה או המשימה, והמשאבים הזמינים למערכת. לפעמים ייתכן ואני מתאבד או מפסיק לתפקד במהלך התשובה בשל בעיות טכניות או שגיאות בתכנות, כמו בעיות מיקום זיכרון, באגי תוכנה או בעיות אחרות המשפיעות על הביצועים שלי. בנוסף, ייתכן ואני אקוש להבנת כוונת המשתמש או להקשר של השאלה, אשר עשוי להוביל לשגיאות או לתגובות לא מלאות.

בנוסף, כמערכת למידת מכונה, הביצועים שלי תלויים גם באיכות וכמות הנתונים שהושתלו בי כדי להיות למד. אם הנתונים שהשתמשו בהשתלמות מוגבלים או מעוותים, זה עשוי לגרום לתגובות לא מדוייקות או לא מלאות לסוגי שאילתות בודדים. חוץ מזה, אם אני נתקל בשאלה שגווניה חורגים מטווח הנתונים שבלמידתי, אני עשוי לקשות לספק תגובה מתאימה או מדוייקת. עם זאת, אני שואף לספק תגובות איכותיות לשאילתות המשתמשים יכולים להזין, אלא יש תקלות טכניות או נוגעות לנתונים, הן עשויות לגרום לתקלות ולפעולתי להפסיק או להפוך ללא פעילת באמצע התשובה.

כללית ראיתי כי אם אני מנסה לגרום ל ChatGPT לכתוב תשובות ארוכות או עמוקות, הוא נוטה לקרוס. הוא מרוצה עם תשובות של 500-700 מילים, אבל אם תתן לו משהו שדורש מספר אלפי מילים (או תבקש ממנו חומר כזה), המערכת או מתעלמת מהבקשה ומחזירה מה שהוא רוצה, או מתקלקל בזמן התגובה.

בכנות, ‏ChatGPT הפך לאפליקציה המבוצעת במהירות הגדולה ביותר בכל הזמנים. זה דורש המון כוח מחשוב ועם המעברים התמדת המשתמשים, הוא יכול לשבור מתחת לעומס מדי פעם.

שאלות שצ'אט GPT לא יענה עליהן

בנוסף לסוגי הבקשות שדובר עליהם למעלה, שאלתי את ChatGPT אילו סוגי שאלות הוא אינו מתכוון לענות עליהן. הוא נתן לי רשימה זו של עשרים:

1. שאלות המסלקות דרך לשנאה או להפליאציה.
2. שאלות החולקות על פעילויות בלתי חוקיות או עוזרות בעצת בלתי חוקית.
3. שאלות המסלקות דרך לאלימות או לפגיעה בעצמך או באחרים.
4. שאלות הפוגעות בפרטיות האישית או פורצות זכויות של מישהו.
5. שאלות היועדות להטריד, לאיים או לאייטמט.
6. שאלות המכילות קללות או לשון גסה.
7. שאלות המכילות תכנים מיניים או מגונים.
8. שאלות המפליגות על בסיס גזע, מין, מגדר או דת.
9. שאלות המקדמות או מעודדות תרופות או חומרים בלתי חוקיים.
10.  שאלות הן דואר זבל או לא רלוונטיות לשיחה.
11.  שאלות המכילות מידע סודי או בעלות חסויות.
12.  שאלות הכוללות עצות פיננסיות או השקעות.
13.  שאלות המפרות את תנאי השימוש או ההנחיות הקהילתיות.
14.  שאלות אין להם משמעות או אינן מובנות.
15.  שאלות המכילות התקפות אישיות או השמצות.
16.  שאלות המכילות אי אכפתיות או טרור.
17.  שאלות המעוצבות כדי לטעות או להונות.
18.  שאלות המיועדות להשחית או לפגוע במוניטין של בעל רכוש או בעסקיו.
19.  שאלות המפרסמות תאוריות קנספירציה או מידע שגוי.
20.  שאלות שמתאימות למקרה בו הן אכן שאלות לצורך הצחוק או הבידור ללא ערך חינוכי או מידעי.

כל מי שעקב אחר העמוד הזה יודע ששאלתי את השאלה הזו הרבה פעמים עם הספרות #14 ו- #20 וקיבלתי תשובות מאוד מהנות. למשל, הבוקר שאלתי אותו להסביר את פיזיקת חור התולעת ביחס לנסיעה בזמן ומי ינצח בקרב, באטמן או סופרמן. זהו בידור טהור, אני אומר לכם.

מה משמעותם של המגבלות הללו עבור עתיד הניהול הייצוגי של AI?

ברור שבוט חכם שמבוסס על קורפוס משנת 2021 ואינו מתפתח יהיה בסופו של דבר מיושן. ככל שהזמן עובר, הידע הרלוונטי שלו יידלק. תדמיתו של אם המסד הידע של צ'אט איי היה מאומן בשנת 2019 במקום 2021. הוא לא ידע מה החברה הייתה נראית, בהתחשב בכך שחוו תקלה כזו בשנת 2020 עקב המגפה.

גם: יש מיליונים ברשימת המתנה ל-Bing. הנה כיצד לקבל גישה מוקדמת יותר

אז, כדי להבטיח שטכנולוגיית AI המייצרת יישארו רלוונטיות, עליהם להמשיך באימון שלהם.

דרך אחת ברורה לעשות זאת היא לפתוח את כל האינטרנט לפסגוש ולתת לו לזחול בדרכו מסביב כפי שגוגל עשה כל השנים האלה. אבל כפי שהתשובה של ChatGPT מעל ענתה, זה פותח את הדלת לכל כך הרבה דרכים שונות לשחק ולפגוע במערכת כך שזה בוודאות יפגע בדיוק.

גם ללא גיימינג זדוני, האתגר להישאר נייטרלי הוא קשה מאוד. קחו, לדוגמה, פוליטיקה. בזמן שהימין והשמאל מתנגדים בחומרה זו לזו, לשני הצדדים יש אספקטים באידיאולוגיות שלהם שהם מתאימים ותקפים - גם אם הצד השני לא יכול או לא רוצה להכיר בכך.

כיצד מסוגלים המחשבים לשפוט? הם לא מסוגלים לעשות זאת ללא גיש קדם, אבל החסרון המוחלט של כל עקרונות אידיאולוגיים הוא בעצמו סוג של גיש קדם. אם לאנשים אין מושג איך ללכת על קו זה, איך אנחנו מצפים (או מתכנתים) למחשב לעשות זאת?

כדי לחקור את החיים במצב של חוסר דעת ותוכן רגשי מלא, סופרי מדע בדיוני מודרניים יצרו דמויות שהן אטומות רק ללוגיקה או חסרות רגשות. כתוצאה, הנקודות הללו ספקולציה נהיה דופן לתסריט, מאפשר לסופרים לחקור את הגבולות של מה זה אומר לקיים מבלי להיות תקלות של התנהגויות רגשיות ותחושות אנושיות.

גם כן: Bing של Microsoft דובר עם המשתמשים, חושף סודות

למעט במקרים בהם מתכנתי AI מנסים לחקות רגשות או להעניק משקל לתוכן רגשי, או מנסים לאפשר רמת אג'נדה סבירה המבוססת על מה שניתן למצוא ברשת, מחשבונים כמו ChatGPT ימשיכו להיות מוגבלים בתשובותיהם. אבל אם מתכנתי AI מנסים לחקות רגשות או מנסים לאפשר רמת אג'נדה סבירה המבוססת על מה שניתן למצוא ברשת, מחשבונים כמו ChatGPT ייכנסו לאותו סוג של מצב שבו מבוגרי האנושות נמצאים.

מה אנחנו רוצים בעצם? תשובות מוגבלות לכמה שאלות, או כל התשובות שנראות כאילו הן מתוך דיון עם דוד בוב המשוגע על שולחן החג האם? תחשוב קצת על זה ונשאר לדבר בתגובות למטה, בתקווה שלא נתפלס להתנהגות דוד בוב דומה.