1910年9月，日本柔道会组织了一场“以不损伤为原则”的比拼。比赛初时，日本接连派出五位柔道高手，均被霍元甲的徒弟刘振声击败。
日领队不服气，于是亲自上场与霍元甲比试，比拼过程中他还想耍手段，不料被霍元甲识破，最后被霍元甲打得骨断筋折，只好认输。
此后，上海的习武热潮高涨，“沪人多知元甲之武技功能，若不为之流传，殊为可惜”。在好友农劲荪的帮助下，霍元甲在上海创办了“中国精武体操会”。
他不仅对外传授迷踪拳，还广发英雄帖，邀请全国武术行家到体操会执教，这一对于习惯于自成一派的江湖派系来说，无疑是一次突破性的壮举。
孙中山先生在得知此事后，不仅称赞他，而且还为体操会亲笔写下“尚武精神”的牌匾。
然而就在他的爱国事业初有成效时，霍元甲却突然病逝了。
1910年9月14日，霍元甲病逝，享年42岁。次年，刘振声扶柩归里，迁葬于他的故乡小南河（今天津市西青区精武镇）。
对于霍元甲的死，一直存有争议。
有人说他身体本就不好，再加上为了体操会日夜操劳，新伤旧患 ，最后油尽灯枯，也是有的。
然而另外一种说法则将他的死归于一场精心策划的阴谋，这又是怎么回事呢 ？
自打日本柔道队输给霍元甲之后，一向以武士精神自居的日本人并不服气，为了击败霍元甲，奇招百出，甚至不惜私下用毒。
他们经过考查发现，霍元甲身体不好，而且需要长期服药，于是就将一种慢性毒药加入他的日常药方中。
一个月后，霍元甲便病情恶化，终不治而亡。
至于日本人是如何投毒的，又有两种说法：
一种是说买通了霍元甲的某个弟子，由该弟子将毒药偷偷掺入日常药中；
另一种说法则是，说日本人向霍元甲推荐了一位日本医生，这名医生在开药时就将毒药加入了到药方中。
但是当时鉴于各种条件限制，虽然怀疑霍元甲死得不寻常，但终因没有证据，此事只能不了了之。
事情一直到了20世纪80年代，霍氏后人为他他整修陵园，在迁坟时发现他的骸骨有黑色斑纹，之后经检验，发现他生前的确中毒，由此霍元甲被毒*的事实才被坐实。
在传说中，说霍元甲有个弟子叫陈真，此人还被李小龙搬上了大荧幕，但现实中，霍元甲并没有一个叫陈真的徒弟，他的大徒弟就是我们上述提到了刘振声。
霍元甲死后，刘振声与霍氏后人更是将精武体操会发展到了一个新的高度。
在影视剧中，霍元甲身边总有一位红颜知己相伴，但在现实中，他早就娶妻生子了。妻子王氏是邻村人，身材高挑、小脚，眉清目秀，算得上是小家碧玉。
他们之间没有什么一见钟情，也不是青梅竹马，王氏与封建传统中的女性一样，对丈夫言听计从，一人包揽了家里所有事情，与霍元甲过着朴素的生活。
在霍元甲去世后，尽管有精武体操会创办人的名头，但在经济上并没有得到改善，妻子王氏一人要抚养四个孩子，但即便如此艰难，她也没有选择再嫁。
他们共育有四个子女，长子霍东章成年后成了母亲的帮手，帮助母亲料理家里的大小事务。
两个女儿霍冰茹和霍东琴，成年后嫁人，沿着母亲的足迹走下去。然可惜的是，霍冰茹的婚姻并不幸福，19岁嫁了人，两年后丈夫去国外当华工，一去不返。只留下霍冰茹一人带着一个儿子，后来儿子也死了，她也因此哭瞎了双眼。
妻子王氏于1960年寿终正寝，享年91岁。她这一生，和霍元甲在一起的日子不过二十余年，却用了五十年的时间去守护家庭。
他们之间的感情平淡，但却展现了真正不离不弃的伟大，王氏是一位了不起的传统女性，值得敬重。
我们重点说一下霍元甲的次子：霍东阁，他继承了父亲的遗志，接手精武体操会，继续完成霍元甲没有完成的心愿。
精武体操会，在霍元甲去世后，更名为精武体育会，这一改革也是顺应时势而为。
1910年，南洋公学（上海交大的前身），其校长唐文治主抓体育，曾邀请中国精武体操学校的刘振声、张富有、赵连和三人来教授北方拳种。
1912年9月，精武体操学校的会长已是商界名人袁恒，在他的主持下，精武体操学校成功举办了首届精武运动会，一时震动上海，也借此迎来新的发展机遇。
之后精武体操会，于1916年4月6日正式更名为上海精武体育会。主要原因在于，体育在晚清上海的历史风云中，承担起了维持地方治安，参与上海自治，甚至直接参与革命的重任。
从这一意义上来看，体育实则等同于军事，而所谓的体育组织则相当于地方武装力量。
后来随着人们对体育认识的进一步深化，体操与体育的关系逐渐清晰，摈弃了之前将体育视为军事领域的力量，之后将体操易名为体育纷纷而出。
在这一历史背景下，精武体操会也进行了改革更名为精武体育会，主要意义在于运用武术以为国民体育，具体有两层含义：
其一，寓拳术于体育
其二，称搏击术于养生，武术前途方能伟大。
