... wenn ihr rechnen müsst, geht es sehr wahrscheinlich um die Verwandtenselektion (bzw. nepotistischen Altruismus). Entscheidend hierbei ist in der Tat immer der Grad der Verwandtschaft, anhand dessen sich errechnen lässt, welches Verhalten sich in Bezug auf die Fitness lohnt - so kann man modellhaft errechnen, ob es sich z. B. eher lohnt, einem Cousin zu helfen oder dem Bruder. Der Wert r ergibt sich also direkt aus dem Verwandtschaftsgrad: Für Geschwister liegt er (von "dir" aus gesehen) durchschnittlich bei 0,5 - für die Kinder deines Bruders bei 0,25 etc. Allerdings gelten nicht für alle Tiere dieselben Verwandtschaftsgrade, weil hier andere Mechanismen der Vererbung eine Rolle spielen können.
Der Begriff Eigennutz ist nicht individuell zu verstehen, sondern nur in dem Sinne, dass ein Individuum gewissermaßen alles tut, um so viel seines Erbguts in die nächsten Generationen einzubringen, wie es ihm möglich ist - das kann im zweifelsfall auch bedeuten, früh das eigene Leben zu verlieren (so viel zum vermeintlichen "Eigennutz" ...).
Das andere, was du ansprichst, ist ein Nutzen, den Tiere durch Erfahrung sammeln können: Tiere, die statt gar nichts zu tun (weil sie keinen Partner gefunden haben), anderen bei der Brut helfen, sind häufig im nächsten Jahr bei der eigenen Brut erfolgreicher und bringen mehr Junge durch. Solche Erfahrungen können Tiere auch bei Nichtverwandten sammeln.
Ansonsten ein Buchtipp zum Nachlesen (dort findest du auch verschiedene Beispiele, die häufiger in Klausuren vorkommen):
http://www.amazon.de/exec/obidos/ASIN/3894494271/biologielexikon
Gruß
mik