光绪七年(1881年),罗振玉十六岁,开始学作八股文。三月,长兄、次兄返上虞县应童子试,这时他的八股文仅能成半篇,也随着去观场。到了杭州喉病大发,近两旬水浆不进,恰值孝贞皇后丧,试期延至五月,才得以参加。榜发,入县学第七名,长兄为第二十四名。
这次县考本意是观场,并未想到科名,不意学使太和张霁亭(沄卿)很赏识他的经诂卷,欲置第一,又怀疑不似童子手笔,拆弥封见年仅十六,愈加怀疑,正场提堂面试,取经诂卷命当面讲解,才解除怀疑。学使勉励说:“予历试诸郡,未见才秀如子者,然子年尚幼,归家多读书,以期远到,不必亟科名。”次年与兄同赴乡试不中。光绪十四年(1888年),遵父命从山阳杜宾谷(秉寅)学作八股文,由于一篇得意之作,文字之佳深得老师赞许,却不合八股文规范,从而对科举丧失信心。这一年勉强应试,又不中。此后,再不曾下场了。十年后,光绪二十四年(1898年)戊戌变法,湖南巡抚义宁陈右铭(宝箴)积极招揽人才推行新政,曾举荐罗振玉应经济特科,但不久变法失败,经济特科事中止。光绪二十八年(1902年)经济特科复开,鄂督张之洞、邮传部尚书长沙张文达、法部侍郎归安沈子敦(家本)、漕运总督贵阳陈筱石(夔龙)均保送他为经济特科人员,沈子培写信告诉他“沈侍郎保特科七人,以大名冠首”,“侍郎慕向之意,在今时亦难得也”。但是第二年年初,由于为母亲守丧,终未去应试。
十六岁,童子试的顺利通过,并没有打开他通向仕途之门,但那年杭州之行却大大开阔了他的眼界,远比考中第七名秀才更为重大的收获是为日后的学术活动奠定了第一块基石。
在杭州,他与仁和王同伯(同)参观了郡庠,看到宋高宗写的《孝经》刻石,堂壁上还刻着清代经学和金石学家阮元摹勒的《石鼓文》。这些都深深吸引了他,他还手拓了一份《石鼓文》。游西湖,看到山上更多的唐宋题刻,摩挲流连不忍离去,访求墨本却不可得。第二年,他开始赁碑校读,也许这一想法正萌发于西湖诸山间。杭州之行还使他得识前辈学者,在郡醉经堂书肆,得遇乌程汪谢城(曰桢),这是一位饱学知名的老者,能诗而且精通历算,当时为会稽教谕。两人在书肆谈了几句就很投契,老者对少年罗振玉大加勉励推重,还把自己辑刻的《荔墙丛刻》送给了他。在旅舍,又遇当时以收藏古砖而著名的桐城吴康甫(延康),求其著作,被告知还没整理成书,但获赠了四幅古琴拓本。
在杭州北归的路上,父亲的挚友萧山单棣华(恩溥)与他们同行。一日,谈到读杜甫、陆游诗,被问到最喜欢的是哪些诗句。罗振玉答杜甫的“致君尧舜上,再使风俗淳”,陆游的“外物不移方是学”和“百家屏尽独穷经”。单棣华赞扬说:“此子异日未可以儒生限之。”他乘机请将陆诗写作楹帖。这诗句几乎成了罗氏的座右铭,很多年以后,曾写成篆书联,送给他的弟子柯昌泗,遗墨今发表于台湾版《罗雪堂先生全集》第一编,题给“燕聆仁弟”。