「やばい」の語源

賞賛・警告・注意・疑惑・感嘆・呆然・歓喜・絶望と幅広く使われる「やばい」ですが、そのなりたちは古く、江戸時代には「やばな」という形容詞が使われていました。
語源ははっきりしませんが、様々な説があります。

やばいの語源

牢屋説

泥棒たちが使う隠語として牢屋や看守をさす厄場（やば）という言葉があり、江戸時代に厄場とご縁がある状況＝厄場いという俗語として定着したという説。
獄中でよからぬ相談をしている時に、看守が近づくと見張りが「厄場！」と警告し、これが繰り返されたため……という成り立ちは説得力があります。

射的説

平安時代の公家が親しんだ楊弓（ようきゅう）という弓矢遊びが元々あり、これがお祭りや観光地の射的場に発展した。江戸時代はこれを的屋、矢場と呼んでいた。
矢場は次第にアングラな商売に移行していき、現代のカジノよろしく、店側は美女を雇って落ちた矢を拾うサービスをするようになっていった。矢場女（やばおんな）はしだいに客に春を売るようになっていき、矢場は明治初期に全盛期を迎えるも、賭博と売春のダブルパンチで手ひどく摘発されてしまう。
これを語源に、危険なことをしていると「矢場みたいなこと」になる、または「矢場みたいな場所」にいると役人に目をつけられる→矢場い、として定着した……という説。

危険なもの説

矢場と似てますが、弓で射る矢は矢羽（やば、やばね）と呼ばれ、弓で射られると矢羽いから、という説。
正直微妙な説ですが、仮に「やばな」が形容詞でなく最初は名詞だったと考えれば、この説が音的に一番近いです。
似たようなのだと、野生の馬＝野馬いとか、夜這いが語源という説もあります。

危ない説

古い言い回しの「危ぶい（あやぶい）」、または「彌危ない（いやあぶない）」が転じて「危（や）ばい」となった、という説です。現在でも危ぶむ（あやぶむ）という言葉は残っており、割とすんなり納得できる説です。

まとめ

以上、どれが正解とも言いかねますが、「やばい」の語源説色々でした。
誰が研究しててどこで提唱したかまでは調べていませんが、他にもヤブ医者は危険だからとか、夜に馬で走るのは危険だとか、野蛮人は怖いとか、野生の花には毒草が混じってるとか、更なる珍説を作れそうな気も若干。