המגן המוכשר גדל בפס הייצור של מחלקת הנוער של מכבי תל אביב כבר מגילאי הילדים. גולדברג היה חלק אינטגרלי מכל קבוצות הילדים והנוער ששיחק בהן, ואף סייע לקבוצתו לזכות בדאבל של נערים א' כאשר שיחק שם.

בעונת 2014/15 הוקפץ גולדברג לקבוצה הבוגרת שבמסגרתה יצא להשאלה לחצי עונה בהפועל תל אביב. בעונת 2015/16 הצטרף גולדברג לבני יהודה בהשאלה, במדיה שיחק שנתיים. בספטמבר 2017 הושאל לבית״ר ירושלים לעונה אחת.

בקיץ 2018 חזר למועדון והופיע עם הקבוצה הבוגרת במהלך משחקי ההכנה במחנה האימון בפולין. גולדברג הספיק לשחק אף במשחק גביע הטוטו נגד בית״ר ירושלים לפני שנמכר בחודש אוגוסט להפועל חיפה.