鱼俱罗，冯翊下邽(今陕西渭南市)人。身高八尺，臂力过人，声大如雷，百步之外都能听到他的声音。及成年，为亲卫，累迁大都督，从晋王杨广平陈，拜开府。开皇十年(590)，江南吴郡(今苏州)人沈玄忄会、高智慧叛乱反隋，杨素领兵讨伐时，令鱼俱罗同行。鱼俱罗作战勇猛，屡立战功，升上开府，封高唐县公，出任叠州(今甘肃迭部县)总管。后因母丧还乡服孝。开皇十八年(598)，杨素领兵出灵州道进击突厥，又邀他同行。及遇敌军，他骑马奔出，嗔目大呼，气势逼人，令突厥兵闻风丧胆，撤离隋边境。回师后，他进位柱国，拜为叠州(今内蒙古杭锦后旗)总管。
鱼俱罗之弟鱼赞，在杨广即位前就追随左右，累迁大都督。杨广即位后，拜他为车骑将军。鱼赞秉性残暴，常侍宠而滥施酷刑，-部下。他的手下人稍有不中其意者，必遭酷刑。一次，他令手下给他烤肉吃，觉得肉烤的不称心，便用铁筷子刺进烤肉人的眼睛里。又有一次，他令佣人给他温酒，稍不适口，便当即割下温酒人的舌头。鱼赞的凶残闻名遐迩。炀帝念其早年跟随自己有功，不忍杀他，便对左右说：“弟即如此，兄亦可知。”【注：见《北史》卷七十八】招其兄鱼俱罗责问，并将鱼赞下入大狱，让鱼赞自选死刑。鱼赞羞辱难当，饮药而死。炀帝担心鱼俱罗因此而存异志，酿成祸患，便将鱼俱罗接连转任为安州(今湖北安陆县)刺史和赵郡(河北赵县)太守。后因与将军梁伯隐有交情，往来甚密，想以郡中宝物献于炀帝，被御史弹劾，炀帝随将二人一起除名。
不久，炀帝又重新起用鱼俱罗，命他率蜀郡都尉殷钟葵平定越峻(今四川越西)飞山蛮的叛乱。大业九年(613)，炀帝重征高丽。命鱼俱罗为碣石道将军随征。此时，江南人朱燮、管崇等推刘元进为天子举兵反隋。隋炀帝派将军吐万绪、鱼俱罗讨伐叛军。但连年不克。时值河南一带闹饥荒，鱼俱罗见百姓思乱，便用船运大米到东都去卖。牟取不少钱资。炀帝闻知，遣大理司直梁敬真前去调查。梁敬真回奏鱼俱罗有败绩，于是隋炀帝下令斩鱼俱罗于东都。