השיר נדפס ב"לוח ארץ ישראל" לשנת תר"ס (יצא לאור בתרנ"ט 1899), עמ' 69 - 70 (עמ' 103 - 104 בקובץ הסרוק). רשום שם כי השיר "נכתב בראש חודש סיוון תר"ן (1890) על האונייה לפני חוף יפו, מושר במנגינה מר חיים מילמן". 

בעדות מורחבת שנדפסה במאמר "רשמי זכרונות מלפני שלושים ושבע שנים (1890)" שנדפס לימים ב"ידע עם", כרך י"ב (תשכ"ז), גליון 31 - 32, עמ' 97, סיפר נח שפירא:

ויהי בעלות השחר של יום שלישי - כשהחילונו מתקרבים אל חוף יפו, התרגשתי מאוד מתוך געגועים - ותנח עליי הרוח, רוח השירה שהחלה לפעם בקרבי, לרגלי דמיוני בזכרונות על רבי יהודה הלוי בהיותו במצב כזה שאנו נמצאים בו עכשיו, וארשום את שירי הראשון לציון (וכמעט גם כן על פי סגונונו של רבי יהודה הלוי) בשם "עולי ציון" שנדפס אחר כך בלוח ארץ ישראל, שנת תרנ"ט [בעצם לשנת תר"ס, נדפס בתרנ"ט. זמרשת]. 

ב"ידע עם" נוספה כוכבית המפנה להערה: "והוא מושר על פי המנגינה של השיר 'ציון ציון' הידוע". (העדות מתוך "ידע עם" סרוקה במאמרו של אליהו הכהן "'ציון, ציון, עיר אלהינו': שיר קינה שהיה לשיר עלייה" בבלוג של דוד אסף "עונג שבת", 28.7.2017). ואולם ההערה ש"עולי ציון" זומר בלחן "ציון ציון" לא ברורה, שכן המשקל של השיר "עולי ציון" לא מתאים ל"ציון ציון", ויש בו גם חלק פזמון קצר יותר. לא ידוע ממקור נוסף שלחן "ציון ציון" הוא מאת חיים מילמן (ואולי לחן מילמן אינו הלחן הרגיל של "ציון ציון" או שהוא לחן נוסף).

אליהו הכהן מספר בריאיון ליעקב אגמון (2007) כי תשע שנים לאחר "עולי ציון", כשהייתה ירידה מהארץ אחרי שהברון הפסיק את התמיכה במושבות, חיבר בר-נש (נח שפירא) שיר המשך שעסק בעזיבת הארץ, "גולי ציון". בכתבה הציור שהוליד שיר: 'פה בארץ חמדת אבות' בבלוג של דוד אסף "עונ"ש" ביום 13.1.2023 הוא חושף את המקור בעתון "חבצלת" מיום 24.4.1904 (ראו כאן). לא ברור אם "גולי ציון" הותאם ללחן.

לחנים אבודים