ギブアップ宣言から１日が経過し、あーだこーだやっていましたがとうとううまくいった感じです。
ffmpegを少し新しいものにし、clipbucketのソース中のエンコードの部分のオプションを修正しなんとかsuccessfulになりました。
動画もきちんと見れています。
動作サンプル
http://210.233.164.183/clipbucket/
user id: test
password: testuser
でログインすれば動画のアップロードもできます。
※動作サンプルは予告なく電源をOFFにするかもです！
簡単に仕様を紹介
動画共有サーバースペック
機種：PFU AR2000model110（ファンレス）
CPU: PentiumM1.6GHz
MEM: 256MB
HDD: 60GB(2.5inchi)
OS: Debain6(squeeze)
特記事項：
エコワットの計測で電気料金９円／Day
CPUファンはありませんがケースファンがあります。
静音ですが、夏場はケースファンがうなります。